Pakar keselamatan siber memberi amaran bahawa ejen kecerdasan buatan (AI), yang kini dilihat sebagai sempadan baharu dalam revolusi AI generatif, berisiko digodam dan disalahgunakan untuk tujuan berniat jahat bagi pihak penggodam.
Ejen AI adalah program yang menggunakan chatbot AI untuk menjalankan tugasan yang biasanya dilakukan manusia secara dalam talian, seperti membeli tiket kapal terbang atau menambah acara ke kalendar.
Namun, kebolehan untuk mengarahkan ejen AI menggunakan bahasa semula jadi membolehkan sesiapa sahaja, termasuk yang kurang mahir teknikal, menyalahgunakannya.
“Kita kini memasuki zaman di mana keselamatan siber bukan lagi hanya tentang melindungi pengguna daripada pihak berniat jahat yang mempunyai kemahiran teknikal tinggi. Untuk pertama kali dalam beberapa dekad, kita menyaksikan kaedah serangan baharu yang unik, yang boleh datang dari mana-mana sahaja.” menurut syarikat pemula Perplexity.
Serangan ‘injection attacks’ bukanlah perkara baharu dalam dunia penggodam, tetapi sebelum ini ia memerlukan kod komputer yang ditulis dengan bijak dan disorok dengan teliti untuk menimbulkan kerosakan.
Namun, apabila keupayaan AI berkembang daripada sekadar menjana teks, imej atau video kepada menjadi “ejen” yang boleh menjelajah internet secara bebas, potensi ia disalahgunakan melalui arahan tersembunyi oleh penggodam turut meningkat.
Meta menggelar ancaman ini sebagai satu “kerentanan”, manakala Ketua Pegawai Keselamatan Maklumat OpenAI Dane Stuckey menyifatkannya sebagai “isu keselamatan yang belum diselesaikan”.
Cabaran dan langkah keselamatan Ejen AI
Pemain utama dalam industri AI telah memasang langkah pertahanan dan mengeluarkan garis panduan untuk menangkis serangan siber seperti ini.
Microsoft telah mengintegrasikan alat untuk mengesan arahan berniat jahat berdasarkan beberapa faktor, termasuk dari mana arahan untuk ejen AI itu berasal.
OpenAI pula memberi amaran kepada pengguna apabila ejen yang diarahkan melawat laman web sensitif, dan menyekat sebarang tindakan sehingga perisian itu diselia secara masa nyata oleh pengguna.
Sesetengah pakar keselamatan mencadangkan supaya ejen AI hanya boleh melaksanakan tugasan penting seperti mengeksport data atau mengakses akaun bank, selepas mendapat kelulusan pengguna terlebih dahulu.
Menurut penyelidik keselamatan siber Johann Rehberger atau dikenali “wunderwuzzi”, cabaran terbesar ialah serangan semakin pantas dan canggih. Salah satu cabaran lain, menurut penyelidik itu, ialah mencari keseimbangan antara keselamatan dan kemudahan penggunaan.
Rehberger berpendapat ejen AI masih belum cukup matang untuk dipercayai dengan tugasan atau data penting.
“Saya tidak fikir kita berada di tahap di mana ejen AI boleh dibiarkan bekerja sendiri untuk tempoh panjang dan melakukan tugas tertentu dengan selamat. Ia mudah tersasar (daripada matlamat asal),” kata Rehberger. – AFP
{suggest}