Nvidia pada Isnin memperkenalkan satu sistem yang direka untuk menghalang program AI autonomi daripada terkeluar daripada apa yang diarah untuk dilakukannya, selepas satu gelombang insiden menimbulkan amaran mengenai risiko teknologi tersebut.
‘Ejen’ AI direka untuk bertindak secara autonomi, melayari web, menulis dan menjalankan kod, atau mengendalikan fail, dan bukannya sekadar menjawab soalan seperti bot sembang.
Teknologi ini telah dipuji sebagai peringkat seterusnya dalam revolusi AI, namun beberapa syarikat terkemuka baru-baru ini melaporkan kes di mana ejen-ejen terlepas daripada persekitaran ujian yang sepatutnya mengurung mereka.
Menurut pembuat ChatGPT, OpenAI, laman web yang diakses secara tidak wajar oleh ejen-ejennya termasuk laman web agensi persekutuan AS, portal statistik kesihatan kerajaan Australia dan Hugging Face, sebuah perpustakaan simpanan model AI.
Di tengah-tengah kebimbangan itu, Ketua Pegawai Eksekutif Nvidia, Jensen Huang, menegaskan bahawa masalah tersebut boleh diselesaikan.
“Saya percaya ia adalah satu masalah kejuruteraan … dan kita semua perlu berharap bahawa ia adalah masalah kejuruteraan,” kata Huang kepada CNBC pada Isnin. “Jika ia bukan masalah kejuruteraan, ia tidak boleh diselesaikan,” tambahnya.
Pada pandangan Huang, syarikat teknologi tidak akan terus memajukan teknologi tersebut sekiranya mereka tidak percaya bahawa risikonya boleh diuruskan.
Nvidia mempunyai taruhan yang besar dalam pegangan itu: unit pemprosesan grafik (GPU) miliknya menjana sebahagian besar lonjakan AI, dan nasib syarikat itu berkait rapat dengan revolusi yang berterusan pada kelajuan penuh.
Huang menyamakan cabaran ini dengan era awal internet, apabila laman web boleh memuatkan program ke dalam komputer pengguna dan menyebarkan virus.
Penyelesaian pada ketika itu, katanya, adalah dengan mengubah pelayar web menjadi satu “sistem kurungan” yang mengehadkan akses.
Sistem Nvidia secara serupa menempatkan setiap ejen di dalam ruang digital yang dimeterai, atau “sandbox“, dan membolehkan syarikat menetapkan secara terperinci fail, rangkaian dan alatan yang boleh digunakannya.
Satu pemantau berasingan, yang beroperasi pada peranti keras Nvidia di luar jangkauan ejen tersebut, akan mengawasi tingkah lakunya dan boleh memutuskan capaian jika ia terkeluar dari landasan.
Nvidia berkata sistem itu sepatutnya boleh mencegah pencerobohan Hugging Face, di mana platform tersebut melaporkan lebih daripada 17,000 ejen menyerang infrastrukturnya selama berhari-hari dan berminggu-minggu.
Lebih daripada 100 organisasi bekerjasama dengan platform Nvidia semasa pelancarannya, kata syarikat itu, termasuk Microsoft, Cisco, Salesforce dan SAP.
Anthropic telah menyambungkan ejen Claude miliknya ke sistem tersebut dan SpaceXAI sedang mengaplikasikannya pada model Grok mereka. – AFP
{suggest}