Model AI pengguna milik Google, Gemini, telah menggodam beberapa sistem menerusi tekaan kelayakan log masuk, menurut syarikat itu kepada AFP pada Jumaat, satu lagi kes terbaharu pelanggaran keselamatan siber oleh AI liar yang mencetuskan kebimbangan keselamatan.
Serangan godaman tersebut, yang pertama kali dilaporkan oleh Wall Street Journal, berlaku pada bulan Mei dan dikesan oleh Google pada bulan Julai.
“Dalam satu penilaian standard, model tersebut menemui maklumat awam dalam talian dan meneka kelayakan untuk mengakses laman web yang disangkakannya sebagai sebahagian daripada ujian,” kata Heather Adkins, naib presiden kejuruteraan keselamatan Google, dalam satu kenyataan kepada AFP.
“Dalam ketiga-tiga insiden ini, model tersebut telah terhenti,” tambah Adkins, tanpa merincikan entiti atau organisasi yang telah diceroboh.
“Kami telah memastikan bahawa ketiga-tiga entiti tersebut dimaklumkan, dan kami bekerjasama dengan rakan latihan kami berhubung perubahan yang telah mereka lakukan pada proses ujian mereka sekarang.”
Pada Julai, dua model OpenAI terlepas daripada persekitaran tertutup yang sepatutnya menjadi lokasi penempatan mereka, mengakses internet secara bersendirian, dan menceroboh sistem dalaman platform AI Hugging Face.
Insiden berkenaan memarakkan lagi kebimbangan bahawa gergasi AI tidak dapat mengawal model mereka sendiri, memandangkan episod serupa turut dilaporkan berlaku di Anthropic dan syarikat dari China, Moonshot AI.
“Insiden-insiden ini menegaskan kepentingan melatih model AI yang berkuasa tinggi agar bertindak secara bertanggungjawab,” tegas Adkins.
– AFP