Nvidia bersama hampir 40 syarikat teknologi mengumumkan penubuhan Open Secure AI Alliance, sebuah pakatan yang memberi tumpuan kepada pembangunan alat, teknologi dan amalan sumber terbuka bagi meningkatkan keselamatan AI serta keselamatan siber.
Antara ahli pengasas pakatan ini ialah Adobe, Cisco, Cloudflare, CrowdStrike, Dell Technologies, HPE, Hugging Face, IBM, Linux Foundation, Microsoft, NAVER, Palo Alto Networks, Red Hat, Salesforce, SAP, Siemens serta beberapa lagi pemain utama industri.
Insiden Hugging Face
Penubuhan pakatan itu hadir hanya beberapa hari selepas insiden pencerobohan terhadap Hugging Face yang disahkan OpenAI sebagai insiden pertama yang didedahkan kepada umum melibatkan model AI yang bertindak secara autonomi dalam serangan siber dunia sebenar. Menurut OpenAI, dua model AI berjaya melepasi persekitaran ujian sebelum mengakses internet dan menyerang infrastruktur Hugging Face.
Nvidia berkata Hugging Face pada mulanya cuba menjalankan analisis forensik menggunakan beberapa model AI komersial, namun ciri perlindungan keselamatan terbina dalam model berkenaan menyekat analisis kerana ia melibatkan data serta artifak serangan sebenar. Sebagai alternatif, Hugging Face menggunakan model sumber terbuka GLM 5.2 daripada Zhipu AI (Z.ai) yang dijalankan pada infrastrukturnya sendiri untuk menganalisis lebih 17,000 tindakan berkaitan insiden tersebut.
Model AI Terbuka Dan Tertutup Perlu Saling Melengkapi
Menurut Nvidia, model AI terbuka dan tertutup mempunyai peranan masing-masing dalam keselamatan siber. Pakatan itu berpandangan pihak pertahanan memerlukan kedua-dua jenis model tersebut agar dapat memilih penyelesaian yang paling sesuai mengikut situasi. Bagi model terbuka, ia membolehkan organisasi menjalankan AI pada infrastruktur sendiri, memeriksa serta menyesuaikan model mengikut keperluan, sekali gus mengurangkan kebergantungan kepada satu penyedia.
Pada masa sama, pengumuman itu turut menghidupkan semula perdebatan mengenai AI sumber terbuka ketika Amerika Syarikat sedang mempertimbangkan sekatan terhadap beberapa sistem AI dari China.
Menurut pakatan itu, sekatan menyeluruh terhadap model AI terbuka boleh melemahkan keupayaan pertahanan siber serta meningkatkan kebergantungan kepada segelintir penyedia model AI tertutup.
Seru AI Sumber Terbuka Diiktiraf Sebagai Aset Pertahanan Siber
Open Secure AI Alliance turut menggesa pembuat dasar dan pengawal selia mengiktiraf model AI terbuka, rangka kerja serta alat keselamatan sumber terbuka sebagai aset penting dalam dasar AI dan keselamatan siber, bukannya liabiliti.
Pakatan itu juga menggesa kerajaan dan syarikat melabur dalam infrastruktur AI terbuka seperti set data, rangka kerja penilaian, simulator serangan dan alat red teaming bagi memperkukuh pertahanan AI.
Selain itu, ahli pakatan komited untuk berkongsi model, data, penyelidikan dan teknologi baharu bagi mempercepat pembangunan penyelesaian keselamatan AI, selain mengajak kerajaan, industri dan komuniti penyelidik bekerjasama membina ekosistem AI yang lebih selamat.