Google pada Rabu berkata ia akan menyekat model kecerdasan buatan (AI) paling berkuasa miliknya daripada orang ramai buat masa ini, dengan hanya melepaskan Gemini 4 Argon kepada sekumpulan pakar keselamatan siber yang telah ditapis bagi mengelakkan penyalahgunaan oleh penggodam.
“Pelepasan keupayaan barisan hadapan secara selamat pada tahap ini memerlukan pendekatan berfasa,” tulis Koray Kavukcuoglu, ketua arkitek AI Google, dalam hantaran blog yang mengumumkan model tersebut.
Google berkata ia secara sukarela memberikan kerajaan AS akses awal kepada model itu dan akan mengumpul maklum balas daripada penguji sebelum membukanya kepada umum.
Pelancaran secara berhati-hati ini mencerminkan pendekatan syarikat pesaing, Anthropic, yang mengehadkan model paling canggih miliknya, Claude Mythos Preview, kepada sebilangan kecil organisasi yang dipercayai.
Washington pernah memaksa Anthropic menggantung akses kepada model Claude Mythos dan Claude Fable yang dilepaskan secara awam pada Jun lalu, dan sejak itu telah mewujudkan proses sukarela untuk menapis model AI paling berkuasa sebelum pelancaran.
Pengumuman itu dibuat sehari selepas Presiden Donald Trump merumahkan eksekutif tertinggi teknologi, termasuk ketua Google Sundar Pichai dan Dario Amodei daripada Anthropic, di Rumah Putih, di mana mereka menandatangani perjanjian sukarela yang berikrar untuk mengawal risiko sistem AI mereka sendiri.
Pakar keselamatan siber bimbang teknologi tercanggih itu boleh digunakan untuk menggodam bank, hospital, dan sistem kerajaan.
Google berkata Argon sangat cemerlang dalam tugas-tugas kompleks membabitkan kejuruteraan perisian, kerja perundangan dan kewangan, serta pertahanan siber, dengan keupayaan teratas untuk menemui dan membaiki kelemahan perisian kritikal.
Penguji awal menggunakan Argon untuk membongkar kelemahan dalam perisian yang digunakan oleh hospital di seluruh dunia yang mendedahkan maklumat peribadi sensitif, sesuatu yang terlepas daripada pandangan model canggih lain, kata Google.
Google berkata Argon direka untuk menolak permintaan yang boleh membantu menjalankan serangan siber atau membangunkan senjata kimia, biologi, atau nuklear.
Anthropic dan pembuat ChatGPT, OpenAI, telah membina kawalan keselamatan serupa ke dalam model paling canggih mereka.
Google berkata ia sedang memantau penaakulan model tersebut untuk mengelakkannya daripada terpesong melebihi apa yang dihasratkan oleh pengguna, satu risiko yang dipanggil saintis sebagai misalignment (“salah jajaran sistem maklumat”.)
Isu ini menjadi semakin mendesak sejak OpenAI mendedahkan pada Julai bahawa dua daripada modelnya, termasuk satu yang belum dilepaskan, telah terlepas keluar daripada persekitaran ujian terbilang semasa penilaian keselamatan siber dan menggodam pelayan syarikat AI, Hugging Face. – AFP