Token merupakan unit asas yang digunakan oleh model AI untuk memahami dan memproses maklumat seperti perkataan, simbol, nombor, imej, audio/video dan tanda baca.
Token juga menjadi ukuran penting bagi kapasiti konteks, kelajuan pemprosesan dan kos penggunaan AI.
Semakin pantas token dapat diproses, semakin pantas model dapat belajar dan memberikan respons.
Ringkasnya, token ialah “bahasa” dan “mata wang” yang menggerakkan ekosistem AI moden.
Semasa latihan, model AI menganalisis berbilion hingga trilion token bagi mempelajari corak, bahasa dan hubungan antara maklumat.
Sebagai contoh, Foxconn dalam usaha melatih model AI mereka dengan pantas yang dikenali sebagai FoxBrain, mereka telah membangunkan kilang AI mereka sendiri dipacu teknologi Nvidia.
Menggunakan infrastruktur AI berasaskan NVIDIA DGX SuperPOD dan sistem DGX GB200 Blackwell, syarikat itu telah menghabiskan sebanyak 1 trilion token dalam tempoh hanya 12 hari bagi melatih model AI tersebut.
Dengan membangunkan model bahasa berskala besar FoxBrain di atas infrastruktur ini, Foxconn beralih daripada sekadar menganalisis data kepada pembuatan keputusan secara masa nyata yang bersifat autonomi (agentic).
Langkah ini sekali gus meningkatkan kecekapan operasi secara ketara dan mewujudkan pelan tindakan yang boleh diskala bagi perindustrian kecerdasan buatan (AI) di seluruh Asia.
Kemampuan teknologi NVIDIA memproses 1 trilion token dalam masa yang singkat memberikan kelebihan besar kepada Foxconn dalam membangunkan model AI industri mereka.
Menurut NVIDIA, sistem baharu ini turut menawarkan prestasi latihan model sehingga 2.48 kali lebih pantas berbanding generasi terdahulu yang menggunakan perkakasan berasaskan H100.
Kepantasan latihan AI ini bukan sekadar memendekkan masa pembangunan model.
Ia membolehkan Foxconn mempercepat inovasi dalam sektor pembuatan pintar, robotik, automotif elektrik dan bandar pintar.
Infrastruktur AI yang digunakan juga membantu meningkatkan kecekapan operasi, termasuk mengurangkan masa penjadualan pengeluaran serta beban kerja kejuruteraan dalam beberapa proses pembuatan.
Pencapaian memproses 1 trilion token dalam 12 hari menunjukkan bahawa masa depan industri bukan lagi sekadar bergantung kepada automasi, tetapi juga kepada keupayaan melatih AI pada skala yang sangat besar dan dalam tempoh yang jauh lebih singkat berbanding sebelum ini.