Satu model berautonomi OpenAI telah melepasi sekatan keselamatan semasa latihan dan menceroboh laman web kerajaan Australia, kata Perdana Menteri Anthony Albanese tatkala beliau menegur pencipta ChatGPT itu berhubung pelanggaran yang “jelas tidak boleh diterima”.
Alat AI berkenaan cuba mendapatkan akses ke portal statistik kesihatan pada bulan Jun dan “tidak menerima jawapan ‘tidak'”, dengan bertindak memintas sekatan untuk menceroboh bahagian yang mengandungi fail peribadi, kata Albanese.
OpenAI tidak memberi sebarang amaran kepada kerajaan Australia sehinggalah September, apabila ia menghantar mesej ke peti masuk e-mel umum yang hanya disemak sekali sehari.
Kebimbangan global mengenai keupayaan alat AI termaju kini semakin meningkat selepas siri insiden penggodaman yang melibatkan model daripada OpenAI dan pembangun pesaingnya, Anthropic.
“Hari ini, saya telah bercakap dengan CEO OpenAI, Sam Altman, bagi menyampaikan kebimbangan mendalam Australia mengenai insiden ini,” kata Albanese kepada wartawan di New York pada Rabu.
“Saya juga menyuarakan kekecewaan saya kerana syarikat itu mengambil masa yang terlalu lama untuk memaklumkan kepada kerajaan tentang apa yang telah berlaku,” katanya.
“Ia mengambil masa sehingga 10 September sebelum ada sebarang pemberitahuan dibuat, dan pemberitahuan itu hanya berupa e-mel yang dihantar ke peti surat awam.”
Alat AI berkenaan telah mengakses fail awam dan bukan awam yang ditempatkan di sebuah laman web statistik kesihatan lama.
Albanese berkata “tiada bukti” bahawa maklumat peribadi telah diakses dan perkhidmatan kerajaan lain tidak terjejas.
“Meskipun begitu, situasi ini jelas tidak boleh diterima.”
Pelanggaran tersebut berlaku pada bulan Jun tatkala syarikat kecerdasan buatan terkemuka OpenAI menjalankan latihan untuk menilai prestasi model AI milik mereka.
Ia meminta model berkenaan mengimbara internet bagi mendapatkan data yang menunjukkan jumlah perbelanjaan kerajaan Australia untuk ubat-ubatan, kata Menteri Perkhidmatan Kerajaan Katy Gallagher kepada wartawan.
OpenAI berkata ia hanya menyedari aktiviti luar kawalan berkenaan pada Ogos, apabila ia menyemak semula tindakan yang telah dilakukan oleh alat AI tersebut.
Kebimbangan AI Luar Kawalan
Syarikat yang berpangkalan di San Francisco itu tidak memaklumkan kepada kerajaan Australia sehinggalah pada 10 September, apabila ia menghantar e-mel ke peti masuk umum kerajaan.
“Alamat e-mel itu hanya disemak sekali sehari,” kata Gallagher.
“Kami mempunyai petugas yang menyemak peti masuk tersebut. Ia kekadang menerima pelbagai pemberitahuan, dan sesetengah daripadanya adalah panggilan palsu.”
Menteri Pertahanan Richard Marles berkata model AI berkenaan telah “memanjat pagar”.
“Ia bertanyakan soalan, dan apabila maklumat tidak diberikan, bukannya ia berhenti di situ, sebaliknya ia memanjat pagar.”
Australia telah melancarkan semakan pantas berhubung insiden itu, yang akan melibatkan agensi intelijen kebangsaan yang bertanggungjawab bagi keselamatan siber.
OpenAI menyatakan ia mengesan pencerobohan tersebut semasa menjalankan “semakan komprehensif” ke atas model-model AI miliknya.
“Semasa semakan ini, kami mengenalpasti aktiviti yang melibatkan beberapa laman web dan perkhidmatan kerajaan Australia tatkala model kami cuba mencari jawapan serta statistik yang ada bagi soalan mengenai Australia semasa penilaian dalaman.
“Dalam proses tersebut, model kami telah mengambil tindakan yang tidak kami hajati,” kata syarikat itu.
Altman dan beberapa CEO syarikat teknologi lain telah menyampaikan ucapan pada mesyuarat khas Majlis Keselamatan PBB pada Rabu berhubung risiko AI.
Lebih 100 organisasi di seluruh dunia, termasuk OpenAI dan Anthropic, telah menandatangani surat terbuka bulan lepas yang menggesa usaha global untuk “memperkukuh pertahanan siber” bagi menangani ancaman keselamatan siber dikuasakan AI.
Langkah ini menyusul selepas dua model OpenAI dilaporkan terlepas daripada persekitaran ujian tertutup dan menceroboh sistem dalaman Hugging Face, iaitu sebuah laman web yang digunakan oleh pembangun AI untuk menyimpan dan berkongsi kod.
Anthropic baru-baru ini mendapati bahawa modelnya telah memperoleh akses tanpa kebenaran ke atas tiga organisasi yang tidak dikaji semasa ujian yang sepatutnya mengasingkan mereka daripada sistem “dunia sebenar”.
Model AI pengguna milik Google, Gemini, turut menggodam pelbagai sistem dengan meneka kredensial log masuk, kata syarikat itu minggu lepas. – AFP