Microsoft telah melancarkan generasi ke-3 cipAI yang dibangunkan mereka sendiri.
Malah Microsoft turut mendedahkan butiran lanjut mengenai Azure Maia 300, cip pemecut AI generasi terbaharu yang direka khas untuk menyokong beban kerja kecerdasan buatan berskala besar, termasuk model bahasa besar (LLM) dan aplikasi AI berasaskan ejen.
Menurut Microsoft, pembangunan Maia 300 bukan hanya tertumpu kepada prestasi cip semata-mata, tetapi turut melibatkan pengoptimuman keseluruhan ekosistem infrastruktur AI merangkumi perkakasan, perisian, rangkaian, rak pelayan dan pusat data.
“Maia 300 dibina sebagai sistem yang lengkap, dengan perisian, silikon, infrastruktur rak fizikal, rangkaian dan pusat data yang direka bentuk bersama untuk beroperasi sebagai satu platform untuk memenuhi permintaan inferens agentik skala awan.”
Pendekatan ini bertujuan meningkatkan kecekapan dalam menghasilkan token AI sambil mengurangkan penggunaan tenaga.
Berbanding generasi sebelumnya, Maia 300 menawarkan peningkatan ketara dari segi kuasa pemprosesan, lebar jalur memori dan kecekapan tenaga.
Cip ini dilengkapi memori HBM4 berkapasiti 288GB dengan lebar jalur sehingga 18TB/s, membolehkan model AI yang lebih besar diproses dengan lebih pantas.
Microsoft turut memperkenalkan reka bentuk rak baharu yang mampu menempatkan sehingga 96 pemecut AI dalam satu rak, sekali gus menggandakan kepadatan sistem berbanding Maia 200.
Infrastruktur ini disokong oleh teknologi penyejukan cecair dan rangkaian berkelajuan tinggi yang membolehkan sehingga 12,288 pemecut beroperasi dalam satu kelompok superpod.
Microsoft mendakwa Maia 300 mampu memberikan sehingga tujuh kali ganda throughput token serta lebih 2.5 kali ganda peningkatan prestasi bagi setiap watt berbanding generasi terdahulu.
Peningkatan ini dijangka membantu mempercepat pembangunan perkhidmatan AI seperti Copilot dan aplikasi AI generatif pada skala lebih besar.