Anthropic pada Khamis menyatakan bahawa mereka telah menyekat beberapa kes operasi pengawasan tajaan negara yang menggunakan model kecerdasan buatan (AI) miliknya, serta memberi amaran bahawa kerajaan dan pihak berkait negara kini semakin kerap menggunakan AI untuk mengintip kumpulan minoriti etnik dan penentang politik.
Insiden-insiden berkenaan dikesan dan ditumpaskan antara Januari hingga Julai, di mana ia berpunca dari China, Iran, dan Afrika Barat, kata Anthropic dalam satu laporan mengenai penyalahgunaan model AI mereka.
Kempen pengawasan ini “menyasarkan komuniti diaspora dan penentang yang sama yang secara sejarahnya sering disasarkan oleh rejim-rejim berkenaan.
Ini termasuk tokoh pro-demokrasi di Hong Kong, komuniti Tibet dan Falun Gong di seluruh Asia, serta komuniti minoriti Iran dan penentang rejim Iran di luar negara,” kata laporan itu.
Dalam satu kes, pihak dari Iran telah membangunkan kaedah untuk mengenal pasti individu menerusi akaun media sosial mereka; manakala dalam kes lain, seorang kontraktor yang bekerja untuk pihak berkuasa keselamatan kebangsaan Mali menggunakan model Claude “untuk mereka bentuk perisian asas yang membolehkan pengumpulan maklumat intelijen dilakukan.”
“AI kini digunakan bagi menggantikan tenaga kerja jurutera,” menurut laporan itu.
Anthropic turut menyekat usaha beberapa pengguna yang cuba mereka bentuk senjata, menjalankan penyelidikan biologi yang meragukan, serta mencipta penipuan temu janji (dating scams).
Makmal AI yang berpangkalan di San Francisco itu turut menuduh pembangun dari China menggunakan Claude secara elak bagi menghasilkan jawapan kepada soalan pengguna, sambil pada masa yang sama melakukan “penyulingan” (distilling) data tersebut untuk menambah baik model mereka sendiri.
Penyulingan merupakan istilah industri yang merujuk kepada proses di mana sebuah model AI digunakan untuk melatih model yang lain.
Pembangun dari China sebelum ini pernah dituduh menggunakan teknik berkenaan tanpa kebenaran, yang secara hakikatnya mencuri sumber daripada makmal-makmal Amerika Syarikat seperti Anthropic dan OpenAI.
Kini, Anthropic mendakwa syarikat China, Moonshot dan DeepSeek, turut menggunakan Claude secara rahsia untuk menjana jawapan yang diberikan kepada pengguna mereka.
“Dalam satu kejadian, sepanjang tempoh 10 hari, Moonshot telah memindahkan hampir 300,000 permintaan pelanggan kepada Anthropic” menerusi “rangkaian 5,380 akaun palsu, yang sebahagian besarnya kelihatan beroperasi dari Singapura dan Jepun,” kata laporan itu.
Sesetengah data tersebut mengandungi maklumat sensitif pengguna, yang berpotensi melanggar perjanjian privasi.
“Kami tidak tahu sama ada Moonshot telah memaklumkan kepada pelanggan mereka bahawa permintaan mereka telah dihalakan semula kepada Anthropic dan didedahkan kepada pihak ketiga,” kata laporan berkenaan.
DeepSeek pula didapati menggunakan teknik yang serupa.
Mengenai penyelidikan berkaitan senjata biologi yang dikesan dan disekat oleh Anthropic, niat pihak yang terlibat adalah kurang jelas dan makmal AI berkenaan tidak memaparkan identiti mereka.
“Individu yang terlibat dalam kajian kes ini merupakan saintis yang sedang berkhidmat. Kami tidak menegaskan bahawa mereka mempunyai niat jahat, dan memaparkan identiti mereka atau makmal mereka boleh mendedahkan mereka kepada bahaya,” kata laporan itu.
Penyelidikan saintifik dalam kes-kes tersebut melibatkan hasil kerja berkaitan virus chikungunya yang dibawa oleh nyamuk, galur selsema burung yang “amat patogenik”, keluarga virus yang merangkumi cacar dan mpox, serta racun dan toksin lain. – AFP
{suggest}