Semasa GPU Technology Conference (GTC 2024), Nvidia telah mengumumkan GPU AI paling berkuasa, iaitu Blackwell B200. Ia adalah pengganti kepada H100/H200 dan menawarkan peningkatan besar dalam prestasi dan kecekapan.
GPU B200 dibangunkan dengan proses 4nm TSMC, dan mampu menghasilkan 20 petaflops FP4 dengan 208 bilion transistor, berbanding 80 bilion pada H100/H200.
Selain itu, ia juga mempunyai 30x prestasi lebih baik daripada H100 dalam kerja inferens LLM, serta 25x lebih cekap tenaga. Dalam penanda aras GPT-3 LLM, GB200 adalah tujuh kali lebih pantas berbanding H100.
Dengan B200, Nvidia memperkenalkan generasi kelima NVLink. Bagi meningkatkan kecekapan, NVLink baharu dilengkapi pemprosesan bandwidth dwiarah 1.8TB/s setiap GPU, dan boleh mengendalikan sehingga 576 GPU untuk LLM paling kompleks.
Selain B200, Nvidia turut mengumumkan cip super Grace Blackwell GB200, yang mana akan mengekalkan seni bina CPU Grace tetapi memasangkannya dengan GPU Blackwell yang dikemas kini.
Produk berasaskan Blackwell akan tersedia bermula lewat tahun ini. Sementara AWS, Google Cloud, Microsoft Azure dan Oracle Cloud Infrastructure akan menjadi antara penyedia perkhidmatan awan pertama yang mengintegrasikan produk tersebut.
Sumber: NVIDIA