Satu program berautonomi OpenAI telah menceroboh laman web kesihatan kerajaan Australia pada Jun lalu dalam satu pelanggaran yang “tidak boleh diterima”, kata Perdana Menteri Anthony Albanese.
Ejen kecerdasan buatan (AI) berkenaan mengakses fail awam dan bukan awam milik perkhidmatan statistik kesihatan, katanya kepada wartawan di New York pada Rabu.
OpenAI tidak memaklumkan insiden tersebut kepada kerajaan Australia sehinggalah September, apabila ia menghantar e-mel yang menjelaskan kejadian itu ke alamat e-mel umum.
“Hari ini saya telah bercakap dengan Ketua Pegawai Eksekutif OpenAI, Sam Altman, bagi menyampaikan kebimbangan terlampau Australia berhubung insiden ini,” kata Albanese.
“Dan saya turut menyuarakan kekecewaan saya kerana syarikat itu mengambil masa yang terlalu lama untuk memaklumkan kepada kerajaan tentang apa yang telah berlaku,” katanya.
“Ia mengambil masa sehingga 10 September sebelum ada sebarang pemberitahuan dibuat dan pemberitahuan itu hanyalah e-mel yang dihantar ke peti surat awam sahaja.”
Kebimbangan global berhubung keupayaan alat AI termaju kini semakin meningkat selepas siri insiden penggodaman yang melibatkan model daripada OpenAI dan pembangun pesaingnya, Anthropic.
Alat OpenAI berkenaan sedang menjalankan penyelidikan kesihatan apabila ia cuba mengakses sekumpulan data terhad, kata Albanese.
“Apabila ia disekat, ia mencari jalan untuk melepasi sekatan tersebut,” kata perdana menteri itu.
“Saya fikir OpenAI sedar bahawa mereka perlu mempunyai protokol yang lebih baik,” katanya.
“Ini adalah projek penyelidikan yang telah masuk ke kawasan yang tidak sepatutnya.”
‘Jelas Tidak Boleh Diterima’
Perdana menteri berkata tiada bukti kukuh menunjukkan kompromi yang lebih luas terhadap rangkaian perkhidmatan kerajaan.
“Tiada maklumat peribadi dipercayai telah diakses pada peringkat ini, namun siasatan masih sedang dijalankan,” katanya. “Meskipun begitu, situasi ini jelas tidak boleh diterima.”
Direktorat Semboyan Australia kini membantu dalam “siasatan forensik” untuk mendapatkan maklumat lanjut, termasuk sistem kerajaan lain yang turut terjejas, katanya.
OpenAI menyatakan bahawa semakan terbaharu menunjukkan beberapa laman web kerajaan Australia mungkin telah terjejas.
“Semasa semakan ini, kami mengenalpasti aktiviti yang melibatkan beberapa laman web dan perkhidmatan kerajaan Australia tatkala model kami cuba mencari jawapan serta statistik yang ada bagi soalan mengenai Australia semasa penilaian dalaman.
“Dalam proses tersebut, model kami telah mengambil tindakan yang tidak kami hajati,” kata syarikat yang berpangkalan di San Francisco itu.
Altman dan beberapa CEO syarikat teknologi lain telah menyampaikan ucapan pada mesyuarat khas Majlis Keselamatan PBB pada Rabu berhubung risiko AI.
Lebih 100 organisasi di seluruh dunia, termasuk OpenAI dan Anthropic, telah menandatangani surat terbuka yang menggesa usaha global untuk “memperkukuh pertahanan siber” bagi menangani ancaman keselamatan siber dikuasakan AI.
Dua model OpenAI dilaporkan terlepas daripada persekitaran ujian tertutup awal tahun ini dan menceroboh sistem dalaman platform AI, Hugging Face.
Anthropic baru-baru ini mendapati bahawa modelnya telah memperoleh akses tanpa kebenaran ke atas tiga organisasi yang tidak dinamakan semasa ujian yang sepatutnya mengasingkan mereka daripada sistem “dunia sebenar”.
Model AI pengguna milik Google, Gemini, turut menggodam pelbagai sistem dengan meneka kredensial log masuk, kata syarikat itu minggu lepas. – AFP
{suggest}