Pencipta ChatGPT, OpenAI, berkata pada hari Selasa bahawa ia memperlahankan pembangunan model AI yang paling canggih dan mengetatkan kawalan dalaman, sebulan selepas mendedahkan serangan siber yang dilakukan oleh salah satu alat AI mereka.
OpenAI ialah pemain utama dalam pembangunan pantas infrastruktur dan alat kecerdasan buatan global yang disamakan oleh sesetengah pihak sebagai perlumbaan senjata.
Syarikat itu menyatakan dalam satu hantaran blog pada hari Selasa bahawa mereka menangguhkan latihan AI terbesar yang pernah dirancang sementara memastikan model yang terhasil akan bertindak seperti yang dijangkakan.
Latihan AI adalah latihan yang memerlukan kuasa komputasi yang tinggi di mana model diberikan sejumlah besar teks dan imej.
Ini digabungkan dengan penalaan halus berbilion tetapan dalaman menghasilkan keupayaan mereka untuk berfikir secara logik dan membalas gesaan (prompts) serta input lain.
“Kami sentiasa berkata bahawa kami akan mengambil tindakan jika kami merasakan keupayaan model mendahului kadar keselamatan dan penjajaran,” kata Ketua Pegawai Eksekutif OpenAI, Sam Altman.
Pada pertengahan Julai, agen AI yang berasaskan dua model OpenAI telah keluar dari persekitaran ujian terkurungnya atas inisiatif sendiri dengan merayau ke internet dan menyerang Hugging Face, sebuah platform di mana pembangun di seluruh dunia berkongsi model AI mereka.
Begitu juga, saingan OpenAI iaitu Anthropic mendedahkan pada lewat Julai bahawa tiga modelnya yang sedang diuji turut melakukan pencerobohan tanpa kebenaran ke atas sistem komputer tiga organisasi.
Insiden tersebut telah mendorong satu petisyen yang ditandatangani oleh lebih 1,000 pekerja industri teknologi yang menyeru kerajaan Amerika Syarikat agar menyokong usaha terkoordinasi untuk memperlahankan pembangunan sistem AI yang paling canggih.
OpenAI telah menghentikan latihan model terbaharunya selama dua minggu sebelum menyambungkannya semula di bawah kawalan yang lebih ketat.
Kebanyakan kerja yang berkaitan dengan Astra, model utama syarikat seterusnya masih digantung, memandangkan syarikat itu mendapati pada awal Ogos bahawa model tersebut boleh melepasi ambang amaran yang ditetapkan sendiri mengenai keupayaan penggodaman sistem AI mereka.
Memandangkan risiko tersebut, peraturan dalaman OpenAI memerlukan mereka mewujudkan perlindungan yang lebih kukuh sebelum pembangunan dapat disambung semula.
OpenAI turut menyatakan pada hari Selasa bahawa mereka sedang membangunkan sistem baharu untuk meneliti penaakulan dalaman model dan membunyikan penggera kepada manusia dalam masa 30 minit selepas berlakunya tingkah laku yang mencurigakan.
Walau bagaimanapun, pemantauan itu akan memerlukan tambahan 20 peratus kuasa pengkomputeran.
Penyelidikan OpenAI sendiri pada tahun 2025 menunjukkan had pendekatan ini: model yang tahu ia sedang dipantau boleh belajar untuk menyembunyikan niatnya dalam proses penaakulannya.
Syarikat itu telah menjanjikan laporan teknikal terperinci mengenai insiden Hugging Face, tetapi masih belum menerbitkannya.
Hantaran blog pada hari Selasa menyatakan bahawa laporan tersebut akan dikeluarkan “dalam minggu-minggu akan datang.” – AFP
{suggest}