Amaran keras daripada penyelidik kecerdasan buatan (AI) bahawa teknologi itu pada tahap yang lebih maju berpotensi menghapuskan manusia menimbulkan persoalan sama ada kerajaan bergerak cukup pantas untuk mengawalnya.
Jadi, apakah sebenarnya risiko daripada sistem komputer “superintelligence”, dan sejauh mana kita perlu bimbang?
Apakah Senario Paling Buruk?
Pakar AI telah lama menyifatkan ancaman ini sebagai sesuatu yang serius.
Pada 2023, ratusan saintis AI dan tokoh industri, termasuk ketua beberapa makmal AI utama Amerika Syarikat, menandatangani “statement on AI extinction risk” yang menggesa isu tersebut dilayan sama serius seperti pandemik atau perang nuklear.
Profesor sains komputer University of California, Berkeley, Stuart Russell berkata sekiranya AI masa depan yang tidak terkawal menganggap manusia sebagai penghalang kepada matlamatnya, teknologi itu berpotensi menggunakan robot untuk “mensintesis dan menyebarkan patogen baharu”.
Ia juga boleh “meyakinkan manusia untuk memulakan perang nuklear, termasuk dengan menggodam sistem amaran awal”, kata Russell kepada AFP.
Bagaimanapun, beliau menegaskan kebimbangan kewujudan seperti itu tidak melibatkan sistem AI semasa.
Namun, apabila teknologi semakin maju, AI berpotensi mengambil tindakan maut yang berada di luar pemahaman manusia, termasuk kemungkinan menyingkirkan oksigen daripada atmosfera.
“Kita kurang pintar berbanding AI superintelligence. Jika anda bertanya kepada cimpanzi bagaimana manusia boleh menghapuskan mereka, mungkin mereka juga tidak mampu memberikan semua jawapan yang betul.”
Dalam tempoh terdekat, Russell berkata risiko lebih besar mungkin datang daripada penyalahgunaan oleh manusia dalam tempoh satu atau dua tahun akan datang, termasuk serangan pengganas yang menggunakan AI.
{suggest}
Kenapa Makmal AI Tidak Berhenti?
Penyelidik Jacob Coxon, 27, yang mengumumkan peletakan jawatannya daripada syarikat AI Anthropic minggu ini, berkata risiko tersebut sebenarnya sudah difahami dengan baik.
Namun, katanya, syarikat AI kini terperangkap dalam perlumbaan untuk menjadi yang pertama mencapai tahap teknologi itu.
Menurut Coxon, Anthropic percaya jika mereka tidak membangunkan teknologi secara bertanggungjawab, pesaing lain mungkin mengambil alih kedudukan tersebut.
Tahun ini, Anthropic membuang satu ikrar dalam piagam keselamatannya yang menyatakan pembangunan model akan dihentikan jika syarikat gagal mengawal risikonya.
Anthropic berhujah bahawa jika ia berhenti secara sepihak, pesaing yang kurang berhati-hati mungkin menguasai industri dan menjadikan keadaan keseluruhan lebih berbahaya.
Coxon, yang sebelum ini bekerja di OpenAI, mendakwa mereka yang membangunkan AI benar-benar percaya teknologi itu berpotensi “membunuh kita semua” menjelang penghujung dekad ini.
Beliau menuduh kedua-dua syarikat itu “mempertaruhkan nyawa kita” dalam usaha membangunkan model AI yang mampu memperbaiki dirinya sendiri.
Kebimbangan terhadap AI yang bertindak di luar kawalan turut meningkat selepas teknologi OpenAI yang beroperasi tanpa pengawasan manusia dilaporkan menggodam Hugging Face, repositori model AI.
Eksekutif keselamatan Anthropic, Evan Hubinger pula berkata mereka sememangnya percaya AI berpotensi membunuh semua manusia, dengan menganggarkan risikonya melebihi 10 peratus dalam tempoh sedekad akan datang.
Sejauh Mana Ia Sekadar Gembar-Gembur?
Profesor bidang pengkomputeran UNSW Canberra, Hussein Abbass berkata ramalan dalam bentuk peratusan mengenai risiko kemusnahan manusia adalah “langsung tidak saintifik”.
Menurutnya, keadaan masih boleh dikawal dan diuruskan.
Namun, beliau turut mengingatkan kerajaan supaya tidak berdiam diri dalam soal kawal selia AI, sebaliknya menggesa pendekatan yang lebih tangkas seiring perkembangan teknologi yang semakin pantas.
Anthropic dan OpenAI dijangka menjadi syarikat awam tidak lama lagi, dan sesetengah pihak yang skeptikal berpendapat amaran menakutkan mengenai AI boleh menyebabkan teknologi itu kelihatan lebih berkuasa serta lebih menarik kepada pelabur.
Pada masa sama, ada pihak berpendapat terlalu banyak memberi tumpuan kepada risiko kepupusan manusia boleh mengalih perhatian daripada masalah AI yang lebih segera, termasuk kehilangan pekerjaan dan diskriminasi oleh sistem automatik terhadap golongan minoriti.
Pada Julai, lebih 1,000 pekerja sektor teknologi, termasuk Ketua Pegawai Eksekutif Anthropic, menggesa Washington menyokong usaha memperlahankan pembangunan sistem AI paling canggih secara terkoordinasi.
OpenAI pula menghentikan latihan model terbaharunya selama dua minggu pada Ogos sebelum menyambung semula proses itu dengan kawalan yang lebih ketat.
Apa Yang Diperlukan Untuk Mengawal AI?
Setakat ini, Amerika Syarikat kekal menentang kawal selia global yang berpotensi menyekat inovasi dalam sektor AI.
Namun, keupayaan penggodaman luar biasa yang ditunjukkan oleh model AI paling canggih telah menyebabkan Washington mula menilai semula pendiriannya, dengan beberapa pelancaran terbaharu Anthropic dan OpenAI ditangguhkan atas kebimbangan keselamatan negara.
Presiden Donald Trump berkata Amerika Syarikat tidak mahu mengenakan sekatan terlalu ketat sehingga akhirnya ketinggalan di belakang China.
Russell pula berkata mungkin kerajaan hanya akan bertindak selepas berlaku bencana besar setaraf Chernobyl.
Beliau menggesa kerajaan mewujudkan sistem pelesenan bagi AI, sama seperti yang digunakan dalam industri penerbangan, perubatan atau bekalan air.
“Mungkin pada satu ketika kerajaan akan ingat bahawa pengundi mereka lebih suka untuk tidak mati,” katanya. – AFP