Walaupun beban sebenar hampir mustahil untuk diukur, tapi memang diketahui bahawa bot sembang (Chatbot) menggunakan sejumlah besar kuasa untuk menjawab soalan pengguna.
Khususnya kuasa yang digunakan bagi memastikan pelayan bot cukup sejuk untuk berfungsi di pusat data.
The Washington Post telah bekerjasama dengan penyelidik di University of California bagi mengkaji untuk memahami jumlah air digunakan untuk menulis purata e-mel 100 perkataan oleh ChatGPT OpenAI yang menggunakan model bahasa GPT-4.
Dalam laporan hasil kajian mereka itu mendedahkan kos tinggi menggunakan AI generatif.
Ternyata AI memerlukan penggunaan air yang sangat banyak untuk menyejukkan pelayan yang menjana data, walaupun ia hanya menjana teks.
Walau bagaimanapun, jumlah penggunaan air itu bergantung kepada beberapa faktor iaitu bergantung pada negeri dan jarak dengan pusat data.
Sebagai contoh, Texas mempunyai penggunaan air terendah pada anggaran 235 mililiter yang diperlukan untuk menjana satu e-mel yang mengandungi 100 patah perkataan.
Sementara di Washington pula ia menggunakan sejumlah 1,408 mililiter bagi setiap e-mel — iaitu kira-kira tiga botol air 16.9oz (~480ml).
Ini mungkin kedengaran seperti tidak banyak, tetapi perlu diingat bahawa angka ini bertambah dengan cepat, terutamanya apabila pengguna menggunakan GPT-4 beberapa kali seminggu (atau beberapa kali sehari) — dan ini hanya untuk teks biasa sahaja.
Pusat data adalah pengguna air dan elektrik yang tinggi, sekali gus menaikkan bil elektrik dan air penduduk di bandar-bandar di mana pusat data ini sedang dibina.
Sebagai contoh, Meta perlu menggunakan sebanyak 22 juta liter air untuk melatih model LLaMA-3nya — atau seperti yang dinyatakan oleh penyelidik, “kira-kira apa yang digunakan oleh 164 rakyat Amerika dalam setahun.”
Kos elektrik GPT-4 juga agak tinggi. Jika satu daripada 10 rakyat Amerika yang bekerja menggunakan GPT-4 sekali seminggu selama setahun, permintaan kuasa yang sepadan sebanyak 121,517 MWj akan sama dengan elektrik yang digunakan oleh setiap isi rumah di Washington DC (dianggarkan 671,803 orang) selama dua puluh hari.
Sumber: Tom’s Hardware