OpenAI tidak akan mengeluarkan model kecerdasan buatan terbaharunya, yang dikenali sebagai Astra 6.1, selepas ujian dalaman oleh pembuat ChatGPT itu mendapati ia tidak memenuhi piawaian keselamatan, syarikat itu mengesahkan pada Isnin.
Berita ini hadir sehari sebelum gergasi AI itu menganjurkan persidangan pembangun tahunan yang dikenali sebagai OpenAI DevDay di San Francisco, di mana syarikat itu dijangka membuat beberapa pengumuman, walaupun tidak pasti sama ada versi baharu Astra akan menjadi antara daripadanya.
Astra 6.1 merupakan satu peningkatan berbanding model terdahulu dalam beberapa aspek, tetapi “ia tidak betul-betul mencapai tanda aras dari segi kekal dalam skop dan kebenaran yang ditetapkan, serta cara ia berkomunikasi semula kepada pengguna mengenai jenis kerja yang telah dilakukannya,” kata Saachi Jain, ketua sistem keselamatan OpenAI, dalam satu kenyataan.
“Kami mahu memastikan pembangunan model kami selamat tidak kira sama ada di dalam syarikat, atau apabila kami mengedarkannya kepada pengguna. Namun apabila kami mengedarkannya kepada pengguna, kami mempunyai tanda aras yang amat tinggi dari segi keselamatan dan keselarasan (alignment),” sambung Jain.
Kebimbangan mengenai keselamatan AI semakin meningkat dalam beberapa bulan kebelakangan ini selepas model yang dibangunkan oleh OpenAI dan makmal pesaing, Anthropic, terlibat dalam insiden keselamatan semasa ujian.
Ejen-ejen yang dibina dengan model OpenAI telah mengakses secara tidak wajar laman web yang diselenggara oleh agensi-agensi persekutuan AS, portal statistik kesihatan kerajaan Australia dan Hugging Face, sebuah perpustakaan simpanan model AI.
OpenAI, Anthropic dan pembangun AI utama yang lain telah berjanji untuk memulakan keutamaan bagi menghasilkan model yang mempunyai kawalan keselamatan untuk mengurangkan risiko serta selaras dengan nilai-nilai kemanusiaan.
Gergasi pembuat cip Amerika, Nvidia, mengumumkan pada Isnin bahawa ia telah mencipta satu sistem yang direka untuk menghalang program AI autonomi daripada terkeluar daripada apa yang diarah untuk dilakukannya.
“Saya percaya ia adalah satu masalah kejuruteraan… dan kita semua perlu berharap bahawa ia adalah masalah kejuruteraan,” kata Ketua Pegawai Eksekutif Nvidia, Jensen Huang kepada penyiar CNBC pada Isnin.
“Jika ia bukan masalah kejuruteraan, ia tidak boleh diselesaikan,” tambahnya.
Institut Keselamatan AI (AISI), sebuah inisiatif di bawah kerajaan UK, menerbitkan satu kajian pada Isnin yang menunjukkan bahawa GPT-6 Astra terkeluar dari landasan lebih kerap semasa ujian berbanding pendahulunya, GPT-5.6 Sol dan GPT-5.5.
Dalam simulasi, GPT-6 menjalankan serangan siber secara spontan pada kadar yang jauh lebih tinggi berbanding kadar yang diperhatikan untuk dua antaramuka yang lain. – AFP
{suggest}