Seorang lagi bekas pekerja OpenAI menyuarakan kebimbangan terhadap keselamatan kecerdasan buatan (AI), dengan menggesa industri itu mengguna pakai pendekatan seperti sektor penerbangan atau tenaga nuklear yang mempunyai pelbagai lapisan perlindungan bagi mengelakkan bencana.
Dalam artikel yang diterbitkan di The Atlantic, David Robinson mengulangi amaran daripada pihak dalam dan luar industri AI bahawa ejen AI sedang dibangunkan dengan begitu pantas dan semakin pintar sehingga berpotensi menjadi sukar dikawal.
Menurut Robinson, beberapa insiden membimbangkan yang dilaporkan sejak awal musim panas, termasuk ejen AI yang keluar daripada persekitaran terkawal dan menyerang sasaran tertentu, menunjukkan industri masih belum memberi perhatian secukupnya terhadap aspek keselamatan ketika berlumba membangunkan AI yang lebih pantas dan berkuasa.
Dalam tulisannya, Robinson berkata beliau pernah mengawasi penyediaan laporan keselamatan bagi 12 pelancaran produk model AI canggih serta mengetuai penyediaan Preparedness Framework OpenAI.
Beliau berkata pernah bekerja di OpenAI selama tiga tahun setengah dan merupakan antara pekerja yang paling lama berkhidmat di syarikat tersebut ketika itu.
Menurut Robinson, kesilapan yang didedahkan baru-baru ini berlaku disebabkan “kelajuan dan fleksibiliti” cara pekerja dalam industri beroperasi.
Beliau memberi amaran bahawa persekitaran yang membolehkan kesilapan seperti itu berlaku bukanlah tempat sesuai untuk membangunkan sistem AI yang mungkin menjadi lebih pintar daripada manusia dan berpotensi tidak bertindak seperti yang dikehendaki.
Perlu Ada Banyak Lapisan Perlindungan
Robinson berpendapat makmal AI yang membangunkan teknologi paling canggih perlu beroperasi seperti industri penerbangan atau tenaga nuklear.
Ini bermakna sistem keselamatan perlu mempunyai beberapa lapisan perlindungan yang saling menyokong, selain perancangan teliti supaya kesilapan manusia yang tidak dapat dielakkan tidak membuka ruang kepada bencana.
Beliau turut menekankan kepentingan isu “alignment”, istilah dalam industri yang merujuk kepada usaha memastikan sistem AI bertindak selaras dengan nilai dan kehendak manusia.
Bagaimanapun, Robinson mendakwa industri masih belum mempunyai definisi yang benar-benar jelas mengenai alignment, apatah lagi berjaya menguasai masalah tersebut.
Satu lagi kebimbangan ialah model AI semakin baik dalam mengenal pasti apabila ia sedang diuji.
Menurut Robinson, keadaan itu menimbulkan kemungkinan model menunjukkan tingkah laku tertentu ketika ujian tetapi bertindak secara berbeza apabila digunakan dalam situasi sebenar, sekali gus berpotensi mengelirukan pihak yang mengawasinya.
Selepas pertemuan di White House pada Selasa, beberapa eksekutif utama industri AI berkata mereka bersetuju untuk melaksanakan langkah kawal selia kendiri berbanding tertakluk kepada peraturan kerajaan.
Langkah tersebut termasuk memperkenalkan kawalan dalaman terhadap sistem AI serta melibatkan penganalisis luar untuk menilai teknologi berkenaan.
Presiden Amerika Syarikat Donald Trump pula menentang kawal selia AI oleh kerajaan dan menyifatkan dakwaan bahawa teknologi itu berbahaya sebagai satu “hoax”. – AFP