Anthropic pada Selasa memaklumkan bahawa model kecerdasan buatan (AI) baharunya yang masih belum dilancarkan, dikenali sebagai Claude Mythos, menunjukkan keupayaan tinggi dalam mengesan kelemahan perisian.
Mythos telah mendedahkan ribuan kerentanan dalam aplikasi yang digunakan secara meluas, termasuk yang belum mempunyai tampalan atau penyelesaian, sekali gus mendorong syarikat itu bekerjasama dengan pakar keselamatan siber bagi memperkukuh pertahanan daripada penggodaman.
“Kami mempunyai model baharu yang sengaja tidak dilepaskan kepada umum,” kata Mike Krieger dari Anthropic Labs dalam persidangan HumanX AI di San Francisco.
Sebaliknya, Anthropic membenarkan pakar keselamatan siber dan komuniti sumber terbuka menggunakan Mythos sebagai alat pertahanan lebih awal.
Kemajuan pesat AI turut menimbulkan kebimbangan bahawa penggodam boleh menyalahgunakan teknologi ini untuk memecahkan kata laluan atau enkripsi.
Menurut Anthropic, antara kerentanan yang ditemui oleh Mythos termasuk kelemahan berusia sehingga 27 tahun yang sebelum ini tidak dikesan pembangunnya.
Mythos ialah generasi terbaharu dalam keluarga AI Claude, dan kebocoran sebahagian kodnya baru-baru ini mendorong syarikat memberi amaran tentang risiko keselamatan siber yang belum pernah berlaku sebelum ini.
“Model AI kini mencapai tahap keupayaan pengekodan yang mampu mengatasi hampir semua manusia dalam mencari dan mengeksploitasi kelemahan perisian,” menurut Anthropic.
Sebagai langkah berjaga-jaga, Anthropic melancarkan projek “Glasswing” dengan melibatkan syarikat seperti CrowdStrike, Palo Alto Networks, Amazon, Apple dan Microsoft.
Turut serta ialah Cisco, Broadcom serta Linux Foundation.
Kira-kira 40 organisasi menyertai projek ini, dengan Anthropic menyediakan sumber pengkomputeran bernilai sekitar $100 juta.
Menurut pakar, AI kini mampu mengesan dan membaiki kelemahan pada skala dan kelajuan yang tidak pernah dicapai sebelum ini, sekali gus mengecilkan jurang masa antara penemuan dan eksploitasi oleh pihak tidak bertanggungjawab.
{suggest}