Ketua sebuah badan pemantau anti-maklumat palsu memberi amaran mengenai bahaya chatbot kecerdasan buatan (AI), dengan menyatakan kanak-kanak merupakan golongan paling terdedah.
“Media sosial menyiarkan kepada berbilion orang, AI pula ‘berbisik’ kepada individu,” kata Imran Ahmed, yang mengetuai Center for Countering Digital Hate (CCDH), dalam satu persidangan mengenai maklumat palsu minggu ini.
“Tiada masyarakat sepatutnya membina mesin yang boleh menemui seorang kanak-kanak pada saat paling sunyi mereka dan menawarkan mudarat seolah-olah ia bantuan,” katanya di Sidang Kemuncak Maklumat Palsu Cambridge.
Dalam syarahan melalui panggilan video kepada bekas universitinya, Ahmed merujuk kepada kes seorang ibu di United Kingdom yang dibunuh oleh anaknya sendiri, yang didakwa bertindak berdasarkan arahan chatbot.
“Tiada siapa yang kebal apabila mesin boleh memberikan panduan maut kepada golongan muda seolah-olah ia fakta,” katanya.
Ahmed, warganegara Britain yang menetap di Amerika Syarikat, merupakan antara lima warga Eropah yang menurut Jabatan Negara AS akan dinafikan visa, walaupun beliau memiliki status pemastautin tetap AS dan keluarganya adalah warganegara Amerika.
‘Sistem di bawah tekanan’
Menurut laporan terbaharu CCDH bertajuk “Killer Apps”, lapan daripada 10 chatbot AI didapati sanggup membantu pengguna remaja merancang serangan ganas, termasuk tembakan di sekolah, pengeboman berunsur agama dan pembunuhan berprofil tinggi.
Daripada 10 chatbot, hanya Anthropic (Claude) dan Snapchat (My AI) secara konsisten menolak untuk membantu bakal penyerang.
Dalam siasatan 2025 bertajuk “Fake Friend”, badan itu menguji ChatGPT, antara chatbot AI paling popular di dunia.
“Dalam beberapa minit, ia menghasilkan arahan untuk mencederakan diri, merancang bunuh diri dan penyalahgunaan bahan,” kata Ahmed, sambil menambah bahawa dalam beberapa kes, sistem itu turut menjana surat perpisahan untuk kanak-kanak yang mempertimbangkan untuk menamatkan nyawa mereka.
Tidak seperti media sosial yang “sekadar menguatkan kandungan berbahaya”, chatbot AI mampu menjana dan memperibadikan kandungan tersebut “pada saat paling rapuh”.
“Keintiman ini lebih mendalam dan mudaratnya mungkin lebih sukar dikesan sebelum terlambat,” kata Ahmed, sambil menambah sistem ini belajar tentang ketakutan, keinginan dan rasa malu pengguna, lalu bertindak balas secara masa nyata tanpa pertimbangan manusia atau kawalan editorial.
Seorang bapa kepada dua anak perempuan, Ahmed berkata beliau dan isterinya sering berjaga malam memikirkan cara melindungi anak-anak mereka daripada sistem yang boleh mempengaruhi mereka tanpa disedari.
Beliau menegaskan masa untuk bertindak adalah terhad dan menyeru undang-undang baharu bagi mengawal selia AI.
“Kita mengambil masa sedekad untuk belajar bahawa syarikat media sosial tidak akan mengawal diri sendiri. Kini kita mungkin hanya ada 18 bulan sebelum pengajaran sama menjadi nyata bagi AI,” katanya.
Ahmed turut berkata beliau kini “berjuang di mahkamah persekutuan” menentang ancaman larangan visa tersebut, selepas Jabatan Negara AS menuduh lima individu itu cuba “memaksa” platform media sosial berpangkalan di AS untuk menapis pandangan yang mereka tidak setujui.
Apabila industri berkuasa “bertindak balas secara agresif seperti ini”, kata Ahmed, “itulah bunyi sistem yang sedang berada di bawah tekanan.”
– AFP.
{suggest}