Penyelidik kecerdasan buatan (AI) yang sebelum ini meninggalkan OpenAI untuk menyertai Anthropic telah membuat keputusan untuk keluar terus daripada industri tersebut.
Beliau menuduh kedua-dua syarikat Amerika Syarikat itu “bermain dengan nyawa kami” dalam persaingan membangunkan model AI yang berupaya menambah baik keupayaan diri secara kendiri.
Jacob Coxon, 27, menghabiskan masa tiga tahun lepas dalam fasa pra-latihan model AI, bermula di OpenAI sebelum berpindah ke syarikat saingannya, Anthropic, pada tahun ini memandangkan beliau menganggap syarikat tersebut lebih berwaspada.
Pra-latihan merupakan peringkat di mana model AI menyerap sejumlah data yang amat besar.
“Tiada satu pun daripada syarikat ini bertindak secara bertanggungjawab. Mereka sedang berlumba secara melulu ke arah superintelek (superintelligence) yang boleh menambah baik diri sendiri dan mempertaruhkan nyawa kita,” kata Coxon pada Selasa.
“Individu yang membangunkan AI ini benar-benar percaya bahawa teknologi ini boleh membunuh kita semua menjelang akhir dekad ini,” katanya dalam satu hantaran di platform X.
“Ini bukannya gimik pemasaran,” tambahnya lagi.
Superintelek merupakan titik teori di mana keupayaan AI mengatasi kecerdasan manusia.
Eksekutif keselamatan Anthropic, Evan Hubinger, menyokong pandangan Coxon di X.
“Kami memang benar-benar percaya AI boleh membunuh seluruh umat manusia!” katanya, sambil menambah bahawa beliau menganggarkan risiko itu melebihi 10 peratus dalam tempoh satu dekad akan datang.
Hubinger menyatakan Anthropic “sedang mencuba sehabis baik”, tetapi belum mempunyai rancangan untuk memastikan sistem AI yang mengatasi keupayaan manusia akan mematuhi penciptanya. Beliau menambah terdapat risiko yang “rendah” untuk perkara itu berlaku pada model sedia ada.
Peletakan jawatan Coxon berlaku ketika Anthropic bersiap sedia untuk kemunculan pertamanya di pasaran saham, menyusuli musim panas yang dicemari insiden penggodaman tanpa kebenaran oleh alat AI semasa ujian dijalankan.
Kedua-dua syarikat berkenaan tidak memberi maklum balas serta-merta terhadap permintaan ulasan daripada AFP.
Pemimpin industri AI menyatakan apa yang dipanggil sebagai “penambahbaikan kendiri berulang” (recursive self-improvement), iaitu peringkat di mana sistem AI boleh mereka bentuk dan melatih generasi AI seterusnya tanpa banyak penglibatan manusia kini semakin hampir.
Coxon menganggap usaha Anthropic adalah ikhlas, namun berpendapat tiada syarikat yang mampu membangunkan AI melebihi keupayaan manusia secara bertanggungjawab tanpa campur tangan kerajaan atau perlahanan yang diselaraskan.
“Di Anthropic, taruhannya amat difahami, tetapi mereka terperangkap dalam perlumbaan untuk menjadi yang pertama — mereka percaya tiada pihak lain akan bertindak secara bertanggungjawab, jadi mereka perlu melakukannya sendiri walaupun berdepan risiko,” katanya.
Pada Februari, Anthropic mengeluarkan ikrar daripada piagam keselamatannya untuk menghentikan pembangunan model sekiranya gagal mengawal risiko teknologi berkenaan.
Syarikat itu berhujah bahawa jika mereka berhenti secara sepihak, saingan lain yang kurang berwaspada akan menguasai industri, sekali gus menjadikannya tidak selamat secara keseluruhan.
Pada akhir Julai, lebih 1,000 pekerja industri teknologi, termasuk CEO Anthropic Dario Amodei, menggesa Washington untuk menyokong perlahanan yang diselaraskan dalam pembangunan sistem AI paling canggih.
OpenAI menghentikan latihan model terbaharunya selama dua minggu pada Ogos sebelum menyambungnya semula di bawah kawalan yang lebih ketat.
Pada Ahad, ketua saintis OpenAI, Jakub Pachocki, menggesa “kawalan yang sangat ketat” dilaksanakan.
“Penyelarasan antarabangsa mengenai pembangunan AI pada masa hadapan perlu menjadi keutamaan tertinggi bagi kerajaan di seluruh dunia,” katanya dalam hantaran blog.
Model AI masih belum dikawal selia oleh undang-undang persekutuan di Amerika Syarikat.
Pada September, Senator Bernie Sanders dan Wakil Rakyat Demokrat Greg Casar mengemukakan rang undang-undang yang bertujuan menggantung pembangunan AI sehingga badan pengawal selia persekutuan diwujudkan. – AFP