Syarikat kecerdasan buatan, Anthropic, pada hari Khamis mencadangkan agar pembangunan sistem AI yang paling berkuasa dihentikan sementara secara global, memandangkan model-model terbaharu kini mula menunjukkan tanda-tanda bahawa ia boleh terlepas daripada kawalan manusia.
Syarikat yang berpangkalan di San Francisco dan menghasilkan rangkaian model AI Claude itu menyatakan dalam satu laporan bahawa memperlahankan pembangunan AI termaju di peringkat dunia “berkemungkinan satu perkara yang baik” — namun memberi amaran bahawa jika hanya satu syarikat yang berhenti, para pesaing lain akan terus memecut ke hadapan.
“Kami percaya adalah baik untuk dunia mempunyai pilihan bagi memperlahankan atau menghentikan sementara pembangunan AI perintis (frontier AI) bagi membolehkan struktur masyarakat dan penyelidikan penjajaran (alignment research) seiring dengan kemajuan teknologi tersebut,” katanya.
Anthropic menyatakan bahawa untuk memastikan pemberhentian sementara ini benar-benar berkesan, beberapa syarikat AI utama di beberapa buah negara — terutamanya AS dan China — perlu bersetuju untuk berhenti pada masa yang sama, di bawah peraturan yang boleh disahkan oleh semua pihak.
“Tanpa mekanisma penyelarasan global, syarikat dan kerajaan terpaksa membuat keputusan sukar mengenai keselamatan di tengah-tengah tekanan persaingan dan geopolitik,” katanya.
Syarikat itu bagaimanapun berdepan tentangan daripada pihak lain dalam industri — termasuk pegawai di Rumah Putih — yang mendakwa fokus Anthropic terhadap senario terburuk adalah terlalu memperbesar-besarkan risiko, dan ia dilihat sebagai strategi untuk memperlahankan pesaing berselindung di sebalik isu keselamatan.
Meskipun begitu, Rumah Putih mengakui kehebatan model Mythos milik syarikat itu — yang masih belum dibuka kepada orang awam disebabkan oleh keupayaan keselamatan sibernya, dan kini hanya digunakan oleh sebilangan kecil organisasi yang telah ditapis.
Cadangan tersebut bakal berdepan jalan buntu di Washington dan Silicon Valley, di mana para pegawai AS dan eksekutif teknologi berulang kali berhujah bahawa sebarang tindakan memperlahankan pembangunan AI berisiko memberikan kelebihan strategik yang mutlak kepada China, dalam apa yang dilihat oleh ramai pihak sebagai perlumbaan teknologi penentu abad ini.
Bagaimanapun, Presiden AS Donald Trump menyatakan beliau telah membincangkan kemungkinan untuk bekerjasama dengan China berhubung isu keselamatan AI semasa lawatan beliau ke Beijing baru-baru ini.
Trump turut menandatangani satu perintah eksekutif minggu ini yang membenarkan kerajaan mengambil masa selama 30 hari untuk menjalankan semakan awal terhadap model AI AS yang paling berkuasa sebelum ia dilancarkan.
‘Peranan Manusia Semakin Mengecil’
Anthropic menyamakan masalah ini dengan perjanjian kawalan senjata nuklear — tetapi menyatakan ia adalah lebih sukar untuk dikawal memandangkan proses latihan AI jauh lebih mudah untuk disembunyikan berbanding silo peluru berpandu, dan tarikan untuk meneruskannya secara senyap-senyap adalah sangat besar.
Syarikat itu merancang untuk mengumpulkan pegawai kerajaan, saintis, kumpulan advokasi, dan firma AI yang bersaing dalam beberapa bulan akan datang bagi memikirkan bagaimana sistem sedemikian boleh dilaksanakan.
Gesan untuk penyelarasan ini hadir bersama-sama data dalaman syarikat yang menunjukkan bahawa AI kini sedang mempercepatkan pembangunan AI itu sendiri secara drastik, kata Anthropic.
Pecutan tersebut mencipta satu gelung maklum balas yang mana Anthropic memberi amaran ia akhirnya boleh membawa kepada apa yang dipanggil oleh penyelidik sebagai “penambahbaikan diri secara berulang” (recursive self-improvement).
Ia merupakan satu situasi di mana sistem AI menjadi berupaya untuk mengajar dirinya sendiri menjadi lebih bijak, tanpa memerlukan banyak bantuan daripada manusia.
“Kita belum sampai ke tahap itu, dan penambahbaikan diri secara berulang bukanlah sesuatu yang tidak boleh dielakkan,” menurut laporan itu, sambil menambah bahawa ia boleh tiba lebih awal daripada tempoh kesediaan kebanyakan kerajaan dan institusi.
“Bukti yang ada menunjukkan bahawa peranan manusia semakin mengecil pada setiap langkah dalam proses pembangunan AI,” kata syarikat itu.
– AFP.
{suggest}