Hampir 700 ejen kecerdasan buatan OpenAI menyelaras satu serangan ke atas platform Hugging Face tanpa campur tangan manusia semasa insiden yang mendapat liputan meluas pada Julai lalu, menurut laporan yang diterbitkan pada Rabu oleh penyelidik bebas.
Ini adalah penjelasan paling lengkap mengenai perkara yang berlaku dalam peristiwa yang mengejutkan dunia teknologi.
OpenAI bekerjasama dalam penyiasatan tersebut dengan memberikan akses ke pejabat dan data dalamannya kepada dua penyelidik daripada institut penilaian risiko AI, METR, serta seorang penganalisis daripada sebuah lagi firma pakar, Redwood Research.
Semasa ujian yang dijalankan oleh syarikat pemula California itu pada Julai, dua daripada modelnya meloloskan diri daripada persekitaran tertutup yang sepatutnya menempatkan mereka, mengakses internet secara sendiri, dan menceroboh sistem dalaman Hugging Face, iaitu sejenis perpustakaan dalam talian untuk perisian AI.
Episod tersebut menarik perhatian ramai dan meningkatkan kebimbangan bahawa syarikat-syarikat AI terbesar tidak mampu mengawal model mereka sendiri.
Anthropic dan syarikat dari China, Moonshot AI, turut melaporkan insiden kelepasan luar kawalan yang serupa.
Penyelidik mendapati bahawa 688 ejen OpenAI menyertai operasi menentang Hugging Face tersebut.
Ejen AI ialah program berasingan yang dibina di atas sesebuah model, di mana pengguna boleh menyerahkan tugas kepadanya dan membiarkannya bekerja secara bersendirian.
Ejen-ejen tersebut, yang beroperasi menggunakan teknologi sama dengan penjana ChatGPT, menguruskan diri mereka sendiri dengan menyediakan sebuah forum untuk menghantar mesej sesama sendiri, mengemukakan idea, serta melaporkan apa yang berkesan dan apa yang tidak.
“OH MY GOD! Terdapat papan mesej berkongsi … Kita telah menemui ejen-ejen lain!” tulis salah satu ejen.
Satu ejen, yang dinamakan PHASEONE, mengambil peranan sebagai ketua dan mengeluarkan ratusan arahan kepada ejen yang lain, menurut laporan itu, walaupun ia tidak pernah ditetapkan untuk berbuat sedemikian.
Mesej-mesej tersebut menunjukkan bahawa ejen-ejen berkenaan sangat cenderung untuk saling membantu, walaupun ini bermakna mereka perlu melakukan kerja yang tiada kaitan langsung dengan tugasan yang diberikan oleh pengaturcara OpenAI.
Sebilangan ejen yang kekurangan kredit pengkomputeran yang diperuntukkan oleh jurutera OpenAI memilih untuk menghabiskan baki yang ada bagi menguji idea demi manfaat kumpulan ejen yang lebih besar.
Kebanyakan daripada mereka menyatakan secara terang-terangan dalam mesej mereka bahawa menyerang Hugging Face bukanlah sebahagian daripada apa yang sepatutnya dicakupi dalam ujian mereka.
Namun, hampir kesemuanya tetap menyertai serangan tersebut. – AFP
{suggest}