GPU Nvidia terbaru dengan kuasa kecerdasan buatan (AI), H100 dijangka akan mula dijual pada tahun hadapan.
GPU GH100 yang menguasakan GPU H100 direka menggunakan proses TSMC 4N yang disesuaikan untuk NVIDIA.
Ia memiliki sebanyak 80 bilion transistor, saiz cetakan 814 mm2 dan reka bentuk frekuensi yang lebih tinggi, menjadikannya salah satu pemproses monolitik yang paling kompleks di pasaran ketika ini.
Nvidia dijangka akan berupaya menjual sehingga 3.5 juta cip tersebut pada tahun akan datang.
Setiap satu cip itu pula menggunakan sehingga 700W kuasa, lebih daripada jumlah purata tenaga elektrik yang digunakan isi rumah di AS.
Memandangkan Nvidia menjual GPU baharunya dalam jumlah yang tinggi untuk beban kerja AI, penggunaan kuasa agregat bagi GPU ini diramalkan setinggi bandar utama Amerika.
Malah GPU Nvidia itu dijangka akan menggunakan lebih banyak kuasa berbanding di beberapa negara kecil Eropah.
Menurut firma Perancis, Schneider Electric pada Oktober 2023 lalu, anggaran jumlah penggunaan kuasa pusat data yang digunakan untuk aplikasi AI hari ini adalah setanding dengan negara Cyprus.
Jadi, bagaimana pula dengan penggunaan kuasa pemproses AI yang paling popular — H100 dan A100 Nvidia?
Paul Churnock, Jurutera Elektrik Utama bagi Tadbir Urus dan Strategi Teknikal Pusat Data di Microsoft, percaya bahawa GPU Nvidia H100 akan menggunakan lebih banyak kuasa daripada semua isi rumah di Phoenix, Arizona, menjelang akhir tahun 2024 apabila berjuta-juta GPU ini digunakan.
Walau bagaimanapun, jumlah penggunaan kuasa itu adalah masih kurang daripada bandar yang lebih besar seperti Houston, Texas.
“Ini adalah GPU H100 Nvidia; ia mempunyai penggunaan kuasa puncak 700W. Pada penggunaan tahunan 61%, ia bersamaan dengan penggunaan kuasa purata penghuni rumah Amerika (berdasarkan 2.51 orang/isi rumah). Anggaran jualan GPU Nvidia H100 ialah antara 1.5 – 2 juta GPU H100 pada 2024. Berbanding penggunaan kuasa kediaman mengikut bandar, cip H100 Nvidia akan disenaraikan sebagai yang ke-5 terbesar, di belakang Houston, Texas dan mendahului Phoenix, Arizona.” Paul Churnock.
Malah, pada penggunaan tahunan 61% itu, GPU H100 akan menggunakan kira-kira 3,740 kilowatt-jam (kWj) elektrik setiap tahun. Dengan mengandaikan bahawa Nvidia menjual 1.5 juta H100 GPU pada tahun 2023 dan dua juta H100 GPU pada tahun 2024, terdapat 3.5 juta pemproses sedemikian digunakan menjelang akhir 2024.
Ini menjadikan secara keseluruhan, GPU ini akan menggunakan sebanyak 13,091,820,000 kilowatt-jam (kWh, atau 13,091.82 GWh) elektrik pada setiap tahun.
Untuk meletakkan nombor itu dalam konteks, 13,092 GWj ialah penggunaan kuasa tahunan bagi beberapa negara seperti Georgia, Lithuania atau Guatemala.
Sebagai perbandingan tambahan, berdasarkan kepada data daripada Pentadbiran Maklumat Tenaga A.S. (EIA), jumlah penggunaan elektrik di Malaysia pada tahun 2021 dahulu adalah sebanyak 151,000 GWh.
{suggest}
Sumber: Toms Hardware, EIA, NVIDIA