Veteran teknologi, ahli politik dan penerima Hadiah Nobel menyeru negara-negara di seluruh dunia agar segera menetapkan “garisan merah” yang terlalu berbahaya untuk dilintasi oleh kecerdasan buatan (AI).
Lebih daripada 200 tokoh terkenal, termasuk 10 pemenang Hadiah Nobel serta saintis dari gergasi AI seperti Anthropic, Google DeepMind, Microsoft dan OpenAI, menandatangani surat yang dikeluarkan sempena pembukaan sesi terkini Perhimpunan Agung Pertubuhan Bangsa-Bangsa Bersatu (PBB).
“AI mempunyai potensi besar untuk meningkatkan kesejahteraan manusia, namun hala tuju semasanya membawa bahaya yang belum pernah berlaku sebelum ini,” menurut surat tersebut.
“Kerajaan mesti bertindak tegas sebelum tetingkap untuk campur tangan bermakna tertutup.”
Menurut pencetus kempen ini, “garisan merah AI” merujuk kepada larangan antarabangsa terhadap penggunaan teknologi AI yang dianggap terlalu berisiko dalam apa jua keadaan.
Antara contoh yang diberi termasuk menyerahkan kawalan senjata nuklear kepada sistem AI atau membangunkan senjata autonomi maut.
Garisan merah lain termasuk penggunaan AI untuk pengawasan massa, penarafan sosial, serangan siber, atau menyamar sebagai individu.
Mereka yang menandatangani surat itu menggesa kerajaan dunia untuk mewujudkan garis sempadan AI menjelang akhir tahun depan, memandangkan kepesatan pembangunan teknologi ini.
“AI mungkin akan segera mengatasi kemampuan manusia dan meningkatkan risiko seperti pandemik buatan, penyebaran maklumat palsu secara besar-besaran, manipulasi besar-besaran terhadap individu termasuk kanak-kanak, isu keselamatan negara dan antarabangsa, pengangguran besar-besaran, serta pencabulan hak asasi manusia secara sistematik,” kata surat tersebut.
“Jika tidak dikawal, ramai pakar – termasuk mereka yang berada di barisan hadapan pembangunan AI – memberi amaran bahawa akan menjadi semakin sukar untuk mengekalkan kawalan manusia yang bermakna pada tahun-tahun akan datang.”
– AFP