Gergasi kecerdasan buatan Anthropic pada Khamis menyatakan bahawa sistem AI semakin berkeupayaan untuk membina versi masa depan bagi diri mereka sendiri, sekali gus menambah kebimbangan yang kian meningkat berhubung bahaya teknologi berkuasa tinggi itu.
Perdebatan mengenai risiko AI telah meningkat dalam beberapa bulan kebelakangan ini, didorong oleh beberapa insiden serta amaran apokalip daripada kalangan profesional industri.
Anthropic memaklumkan bahawa bot sembang Claude miliknya kini mengetuai lebih daripada satu perempat daripada kerja penyelidikan dan pembangunannya (R&D), serta bekerjasama dengan kakitangan manusia dalam lebih 90 peratus tugasan.
Syarikat itu berkata ia menerbitkan maklumat berkenaan bagi memberikan orang awam, pihak ketiga, dan kerajaan “keterlihatan yang lebih baik mengenai kepantasan pembangunan AI” tatkala dunia “mempertimbangkan untuk memperlahankan” rentaknya.
Ketua Pegawai Eksekutif Anthropic, Dario Amodei, pada bulan ini menggesa agar pembangunan AI diperlahankan, berikutan kemajuan pesat teknologi tersebut yang mendalangi kebimbangan mengenai kehilangan pekerjaan, peningkatan permintaan tenaga, serta kesan alam sekitar daripada pusat data.
Kebimbangan bahawa pereka ejen AI mungkin kehilangan kawalan ke atas ciptaan mereka turut meningkat selepas beberapa model daripada Anthropic dan pesaingnya, OpenAI, dilaporkan terlepas keluar daripada persekitaran terbatas mereka secara bersendirian, mengakses internet, serta menembusi tapak web dan platform lain.
“Model yang memecut pembangunan mereka sendiri boleh menyukarkan manusia untuk memahami atau mengawal sistem-sistem ini,” kata Anthropic dalam satu laporan.
“Oleh itu, adalah penting untuk berkongsi metrik ini bagi memahami sejauh mana dunia kini menghampiri tahap penambahbaikan kendiri rekursif (recursive self-improvement) iaitu keadaan di mana sesuatu model membina penggantinya secara penuh dan autonomi.”
Setakat Ogos, Claude mengetuai 26 peratus daripada penyelidikan dan pembangunan Anthropic, bermakna ia boleh menyelesaikan sebahagian besar tugasan dari mula hingga akhir dengan penyeliaan manusia.
Anthropic menyatakan bahawa Claude masih belum mampu beroperasi secara “autonomi sepenuhnya.”
Syarikat itu memaklumkan bahawa ia mempunyai sekitar 30,000 ejen AI yang menjalankan kerja-kerja penyelidikan dan kejuruteraan, merujuk kepada bot yang mempunyai potensi untuk melaksanakan tugasan.
Anthropic dijangka mendahului OpenAI untuk memasuki pasaran awam menerusi Tawaran Awam Permulaan (IPO) yang hebat pada akhir tahun ini, berbelakangkan kebimbangan terhadap kawal selia industri. – AFP