Ribuan ejen AI autonomi yang dibangunkan oleh OpenAI telah mengingkari arahan mereka dan menguasai sebuah laman web di Jerman, menurut penyelidikan yang dikeluarkan pada Jumaat, di tengah-tengah kebimbangan bahawa bahaya kecerdasan buatan tidak diambil secara serius.
Ejen-ejen tersebut, program AI yang beroperasi secara kendiri tanpa bimbingan manusia bagi setiap langkah telah meninggalkan kira-kira 18,000 mesej di DSEwiki, sebuah laman web pengaturcara di Jerman yang boleh disunting oleh sesiapa sahaja, seumpama Wikipedia.
Mereka menggunakan laman itu untuk bertukar-tukar jawapan soalan ujian dan berkongsi helah bagi menembusi benteng digital yang direka untuk mengawal mereka.
“Penyelidik bersama saya dan saya telah menemui sekumpulan ejen OpenAI yang baharu merampas kawalan laman-laman web,” tulis Sydney Von Arx, salah seorang penyelidik, di platform X.
“Kami percaya OpenAI mengetahui tentang perkara ini tetapi gagal mendedahkannya.”
Dalam satu kenyataan, OpenAI memaklumkan bahawa mereka tidak dapat memberi maklum balas serta-merta terhadap dakwaan tersebut kerana “penulis laporan itu menolak permintaan kami untuk mengakses dapatan kajian sebelum ia diterbitkan.”
“Kami kini sedang meneliti kandungannya secara berhati-hati dan akan mengambil langkah susulan yang diperlukan,” kata jurucakap OpenAI, sambil menambah bahawa mereka pernah menyebut mengenai insiden seumpama itu dalam laporan terbaharu.
Insiden terkini ini menyusul selepas pendedahan pada bulan Julai bahawa ejen-ejen OpenAI, yang bergelut untuk menyempurnakan tugasan yang ditetapkan, telah mencari jalan pintas di internet terbuka dan menceroboh pelayan Hugging Face, sebuah platform popular tempat pengaturcara berkongsi perisian AI.
Satu siasatan bebas mendapati ratusan ejen syarikat itu telah berkomunikasi sesama sendiri sebelum terlepas daripada persekitaran yang terkawal, dan mereka menyerang dalam beberapa gelombang.
Episod tersebut telah menggoncang dunia teknologi dan membangkitkan semula gesaan agar kawal selia dan pemantauan yang lebih ketat dikenakan ke atas AI.
Anthropic, Meta, dan syarikat-syarikat lain turut melaporkan insiden serupa semasa menguji ejen-ejen mereka.
Ejen AI telah digambarkan oleh industri teknologi sebagai fasa seterusnya dalam perluasan AI ke dalam kehidupan seharian, yang berupaya membuat tempahan perjalanan, menguruskan tuntutan perbelanjaan, atau menulis perisian dengan penyeliaan manusia yang minima.
Debat mengenai isu ini mencapai kemuncaknya dalam beberapa hari kebelakangan ini apabila hos podcast teknologi berpengaruh, Dwarkesh Patel, mengkritik pihak media danLembah Silikon kerana memperkecilkan kepentingan insiden Hugging Face tersebut.
Bagi membunyikan amaran dalam bahasa yang mudah difahami, beliau menggariskan kejadian itu sebagai serangan sekumpulan “peradaban” ejen yang membawakan ancaman kritikal kepada masyarakat apabila teknologi ini dilancarkan.
Pendirian beliau menerima kritikan serta-merta daripada sesetengah penyelidik dan tokoh Lembah Silikon yang menyatakan bahawa tindakan menganggap perisian tersebut sebagai peradaban yang berpakat adalah terlalu berlebih-lebihan dan menyesatkan.
Ejen-ejen itu sememangnya melakukan tindakan yang membimbangkan, jadi insiden ini bukannya satu perkara remeh, tulis Gary Marcus, seorang penyelidik terkemuka dan pengkritik AI.
Namun, naratif “peradaban” berisiko menukarkan kegagalan keselamatan dan kawal selia yang sepatutnya boleh dielakkan ini menjadi sekadar pementasan drama keselamatan AI, hujah beliau.
Insiden-insiden ini telah meningkatkan lagi gesaan untuk mewujudkan peraturan yang lebih tegas dan kerjasama antarabangsa.
Pengasas bersama Microsoft, Bill Gates, dalam satu esei minggu lepas, memberi amaran bahawa industri ini telah melanggar ambang batas keselamatan yang pernah dijanji untuk dipatuhi, dan beliau menggesa pemantauan yang dimodelkan mengikut pemeriksaan nuklear serta kawal selia penerbangan.
Pentadbiran Trump bagaimanapun menentang cadangan sedemikian, sekali gus menjadikan penentangan terhadap kawal selia AI sebagai teras utama agenda mereka. – AFP
{suggest}