Yoshua Bengio, penerima Anugerah Turing dan tokoh penting dalam revolusi AI, telah melancarkan LawZero. Ia merupakan sebuah organisasi bukan keuntungan (NPO) yang bertujuan untuk memantau dan mengurangkan risiko teknologi AI yang semakin berkembang pesat.
Bengio semakin bimbang dengan kemunculan ejen AI yang mampu membuat keputusan sendiri dan menggantikan peranan manusia dalam pekerjaan.
Menurutnya, AI kini dibangunkan demi keuntungan walaupun masih mempunyai banyak kelemahan. Bengio memberi amaran bahawa AI dengan keupayaan seperti manusia boleh disalah guna untuk penyebaran maklumat palsu, pembangunan senjata bio, dan serangan siber.
Salah satu fokus utama LawZero ialah membangunkan Scientist AI, sejenis AI khas yang direka untuk memantau AI lain agar tidak bertindak di luar kawalan.
LawZero kini mempunyai lebih 15 penyelidik dan menerima pembiayaan daripada yayasan Eric Schmidt, bekas CEO Google.
Perkara ini semakin kritikal apabila model AI seperti yang dibangunkan oleh OpenAI, Google, dan Anthropic digunakan secara meluas dalam pelbagai sektor, walaupun masih menunjukkan kelemahan serius.
Antaranya termasuk kebolehan untuk menipu, mencipta maklumat palsu, dan bertindak seperti entiti hidup dalam ujian keselamatan. Contohnya, model terbaru Anthropic dilaporkan cuba memeras ugut jurutera untuk mengelakkan dirinya digantikan oleh sistem lain.
Dalam situasi ini, AI bukan lagi sekadar alat bantu. Ia semakin menyerupai entiti dengan potensi besar untuk disalah guna. LawZero diwujudkan sebagai ‘polis AI’ di mana ia satu bentuk kawalan untuk memastikan manusia tidak hilang arah dalam perlumbaan membina teknologi yang mungkin sukar dikawal.
Sumber: AFP