Google dan Jabatan Pertahanan AS dilaporkan telah menandatangani satu perjanjian yang membolehkan Pentagon menggunakan model AI Google bagi kerja-kerja sulit, menurut seorang individu yang mengetahui situasi tersebut.
Perjanjian itu membenarkan Pentagon menggunakan AI Google untuk “apa-apa tujuan kerajaan yang sah,” menurut sumber berkenaan — mengulangi frasa yang sebelum ini mencetuskan kontroversi dalam perbincangan antara syarikat AI lain dengan Pentagon.
Perjanjian itu tetap dimeterai walaupun AFP melaporkan lebih 600 kakitangan Google menggesa syarikat itu supaya menolak cadangan perjanjian dengan Pentagon yang akan membolehkan teknologi kecerdasan buatannya digunakan dalam operasi ketenteraan sulit, menurut satu kenyataan.
Surat tersebut, yang ditujukan kepada Ketua Pegawai Eksekutif Sundar Pichai dan ditandatangani oleh pekerja dari Google DeepMind, Cloud serta bahagian lain, hadir ketika gergasi teknologi itu sedang berunding secara aktif dengan Jabatan Pertahanan AS untuk menggunakan model AI utamanya, Gemini, dalam persekitaran sulit.
Lebih 20 pengarah, pengarah kanan dan naib presiden turut menjadi antara penandatangan, menurut kenyataan itu.
“Beban kerja sulit secara definisi adalah tidak telus,” kata seorang kakitangan penganjur yang tidak dinamakan.
“Ketika ini, tiada cara untuk memastikan alat kami tidak digunakan untuk menyebabkan kemudaratan serius atau menghakis kebebasan awam tanpa pengetahuan umum. Ini termasuk perkara seperti membuat profil individu atau menyasarkan orang awam yang tidak bersalah.”
Google merupakan antara beberapa syarikat yang bersaing untuk mengisi kekosongan yang ditinggalkan oleh syarikat AI Anthropic dan menjadi penyedia utama AI kepada kerajaan dalam persekitaran sulit dan tidak sulit.
Anthropic telah menyaman Pentagon selepas diklasifikasikan sebagai “risiko rantaian bekalan” susulan permintaannya agar teknologinya tidak digunakan untuk pengawasan besar-besaran di Amerika Syarikat atau peperangan automatik.
Menurut penganjur surat itu, Google mencadangkan klausa kontrak yang akan menghalang Gemini daripada digunakan untuk pengawasan domestik berskala besar atau senjata autonomi tanpa kawalan manusia yang sesuai.
Namun, Pentagon dilaporkan menuntut frasa lebih luas iaitu “semua penggunaan yang sah”, yang menurutnya perlu bagi mengekalkan fleksibiliti operasi.
Kakitangan berkata perlindungan yang dicadangkan itu sukar dikuatkuasakan secara teknikal, dengan merujuk kepada dasar Pentagon yang melarang pihak luar mengenakan kawalan ke atas sistem AI mereka.
“Jika kepimpinan benar-benar serius untuk mencegah kemudaratan lanjutan, mereka mesti menolak sepenuhnya penggunaan dalam persekitaran sulit buat masa ini,” kata seorang lagi penganjur.
Google kini sudah mempunyai kontrak dengan Jabatan Pertahanan AS bagi penggunaan tidak sulit melalui program genAI.mil, dan perjanjian baharu yang dicadangkan itu akan memperluas keupayaan Gemini ke domain sulit.
Kempen kakitangan ini mengambil inspirasi daripada gerakan pada 2018 yang berjaya mendorong Google menarik diri daripada Project Maven — program Pentagon untuk mengintegrasikan AI dalam operasi dron.
Namun dalam beberapa tahun kebelakangan ini, Google telah mengubah strategi dengan membina semula perniagaan ketenteraannya dan bersaing dengan pesaing seperti Amazon Web Services dan Microsoft bagi kontrak awan pertahanan.
Google tidak memberikan respons segera terhadap permintaan komen.