Syarikat pemula China, DeepSeek, menarik perhatian dunia teknologi dengan dakwaan bahawa model AI mereka, R1, dilatih dengan kos rendah iaitu $6 juta dan hanya menggunakan sejumlah 2,048 GPU sahaja, tetapi masih mampu bersaing dengan model o1 OpenAI.
Namun, laporan dari firma SemiAnalysis mendedahkan bahawa DeepSeek sebenarnya membelanjakan sebanyak $1.6 bilion (~RM7.52 Bilion) untuk perkakasan dan menggunakan sekitar 50,000 unit GPU Nvidia Hopper dengan kos operasi mencecah $944 juta (~RM4.4368 bilion).
“Analisis kami menunjukkan bahawa jumlah CapEx pelayan untuk DeepSeek ialah ~$1.6 bilion. Kami percaya mereka mempunyai akses kepada kira-kira 50,000 GPU Hopper.” SemiAnalysis.
Ini termasuklah 10,000 H800 dan 10,000 H100, dengan pembelian tambahan unit H20, menurut SemiAnalysis.
Pendedahan ini sekali gus menafikan dakwaan bahawa DeepSeek berjaya mengurangkan kos pembangunan AI secara drastik berbanding pesaing utama industri.
DeepSeek berasal daripada High-Flyer, yang menggunakan AI awal dan banyak melabur dalam GPU.
Pada tahun 2023, High-Flyer melancarkan DeepSeek sebagai usaha berasingan yang tertumpu semata-mata pada AI.
Tidak seperti kebanyakan pesaing, DeepSeek kekal dibiayai sendiri, memberikannya fleksibiliti dan kelajuan dalam membuat keputusan.
Antara perbezaan utama DeepSeek ialah keupayaannya menjalankan pusat datanya sendiri, tidak seperti kebanyakan syarikat pemula AI lain yang bergantung pada pembekal awan luaran.
Kebebasan ini membolehkan kawalan penuh ke atas eksperimen dan pengoptimuman model AI.
Di samping itu, ia membolehkan lelaran (iteration) pantas tanpa kesesakan luaran, menjadikan DeepSeek sangat cekap berbanding pemain tradisional dalam industri.
Sumber: Tom’s Hardware, SemiAnalysis