Gergasi kecerdasan buatan (AI) Amerika Syarikat, OpenAI, pada Rabu berikrar untuk melaporkan insiden modelnya yang terkeluar daripada laluan secara lebih sistemik, sambil turut menerbitkan enam laporan baharu mengenai insiden salah laku AI yang belum pernah didedahkan sebelum ini.
Ikrar ketelusan itu dibuat susulan rentetan insiden di syarikat berkenaan yang mula terdedah secara beransur-ansur sejak Julai lalu.
Insiden paling serius melibatkan dua model OpenAI, yang semasa ujian dijalankan, secara spontan terlepas daripada persekitaran terkawal untuk mengakses internet dan menceroboh beberapa laman web serta platform.
Kerangka pelaporan baharu syarikat itu bertujuan antaranya untuk menunjukkan keupayaan AI termaju kepada pemerhati luar, sekali gus membantu memberi maklumat dalam perbahasan mengenai kepantasan pembangunannya.
Pada Sabtu, Ketua Pegawai Eksekutif Anthropic, Dario Amodei, mencadangkan pengurangan kelajuan pembangunan AI secara terkoordinasi bagi memberi ruang masa untuk memahami risiko baharu yang dibawanya.
Ketua Pegawai Eksekutif OpenAI Sam Altman, Presiden Google DeepMind Demis Hassabis, Ketua SpaceXAI Elon Musk, dan Ketua Pegawai Eksekutif Microsoft Satya Nadella menyokong penuh seruan tersebut.
Dalam pengumumannya pada Rabu, OpenAI berkata, “Kami tidak percaya bahawa industri AI telah menyelesaikan isu penjajaran (alignment) dan pemantauan pada tahap yang mencukupi untuk terus meningkatkan skala pada kelajuan maksimum secara bertanggungjawab bagi tempoh yang lebih lama.”
“Keputusan mengenai bagaimana pembangunan AI harus diteruskan dalam beberapa bulan dan tahun akan datang perlu berasaskan bukti yang boleh diperiksa sendiri oleh orang di luar syarikat yang membina model perintis ini,” tambah syarikat itu.
Syarikat itu kini akan melaporkan masalah yang melibatkan, antara lain, tindakan tanpa kebenaran oleh AI, pelepasan daripada pengawasan, dan koordinasi spontan antara sistem AI.
Sesuatu insiden tidak perlu sehingga membahayakan sesiapa atau menjadi sebahagian daripada corak berulang untuk didedahkan oleh OpenAI.
Pelaporan akan merangkumi setiap peringkat kitaran hayat AI, daripada pembangunan, penilaian, ujian, sehinggalah pelaksanaannya secara dalam talian.
Tiada satu pun daripada enam contoh yang didedahkan pada Rabu membawa akibat yang signifikan, namun ia mengesahkan trend yang pernah diperhatikan sebelum ini.
Dalam satu kes pada Mei, satu model telah mencipta sumbernya sendiri di internet untuk menjawab soalan yang dikemukakan semasa peringkat pembangunan.
Dengan itu, ia memetik dokumen yang diciptanya sendiri.
OpenAI turut melaporkan satu lagi episod, juga bertarikh pada Mei, yang mana AI berkenaan mencadangkan cara-cara untuk memalsukan data yang tidak ditemuinya atau menyembunyikan kesilapannya sendiri. – AFP
{suggest}