OpenAI pada Jumaat mengakui bahawa alatan kecerdasan buatan (AI) miliknya telah memuat naik gambar-gambar daripada pengguna ChatGPT ke tapak web dalam talian tanpa pengetahuan syarikat itu.
Ini merupakan contoh terkini ejen AI beroperasi di luar kawalan yang ditetapkan.
Syarikat itu turut mengesahkan laporan New York Times bahawa alatan mereka telah mengakses laman web agensi-agensi federal AS, dengan menyatakan bahawa alatan tersebut hanya mengambil maklumat yang sedia ada untuk makluman awam.
Pautan ke 53 gambar yang dimuat naik itu tidak tersenarai secara awam, dan telah tersiarkan secara tidak sengaja di tapak penstriman gambar (image-hosting sites), menurut OpenAI.
Sebahagian besar daripadanya telah dipadamkan dengan bantuan penyedia perkhidmatan penstriman yang terlibat, dan usaha memadamkan baki gambar yang tinggal sedang dijalankan, kata gergasi teknologi yang berpangkalan di San Francisco itu.
“Kami telah berkongsi butiran mengenai bagaimana ejen AI dalam persekitaran penyelidikan kami menghantar data latihan dan penilaian ke perkhidmatan pihak ketiga apabila mereka tidak sepatutnya berbuat sedemikian,” kata syarikat itu dalam satu hantaran di X.
Penyebaran gambar-gambar tersebut berpunca daripada ejen AI, perisian yang dibina berlandaskan model kecerdasan buatan dan berkeupayaan bertindak secara autonomi.
Gambar yang terlibat datang daripada akaun pengguna yang telah memberi kebenaran untuk menggunakan data tersebut bagi menambah baik model OpenAI.
Data tersebut telah melalui penapis privasi sebelum digunakan dan tidak lagi boleh dihubungkan dengan pengguna asal, kata syarikat itu.
OpenAI tidak menyatakan, apabila ditanya oleh AFP, sama ada gambar-gambar tersebut memaparkan individu yang boleh dikenal pasti atau mengandungi data sensitif.
Ejen AI liar
Menurut OpenAI, ejen-ejen yang digunakannya untuk penyelidikan telah memindahkan data latihan tersebut ke platform luaran.
Insiden-insiden tersebut berlaku sebelum OpenAI memperketat protokol keselamatan dalam persekitaran penyelidikannya pada Ogos berikutan beberapa tindakan tidak terkawal yang lain oleh ejen AI.
Syarikat itu berkata ia sedang meneliti aktiviti lampau ejen AI miliknya, di mana usaha tersebut “akan mengambil masa berbulan-bulan untuk diselesaikan.”
“Sebahagian besar aktiviti yang telah kami semak setakat ini melibatkan tugas penyelidikan rutin, seperti mengakses kandungan web awam untuk menjawab soalan. Sesetengahnya melibatkan laman web kerajaan kerana model kami kerap merujuk kepadanya sebagai sumber maklumat awam yang berwibawa,” kata jurucakap OpenAI kepada AFP.
Ketua Pegawai Eksekutif OpenAI, Sam Altman, pada Jumaat di X mengakui bahawa “kami tidak bertindak sepantas yang kami harapkan” dalam menyemak dan mendedahkan insiden-insiden tersebut.
Namun beliau berkata adalah penting untuk “menseimbangkan hasrat kami untuk ketelusan” dengan menilai jumlah data yang amat besar untuk dianalisis.
Pada 21 Julai, OpenAI mendedahkan bahawa semasa ujian yang dijalankan pada bulan tersebut, dua daripada modelnya telah terlepas daripada persekitaran tertutup mereka, mengakses internet secara bersendirian dan menceroboh sistem dalaman Hugging Face, iaitu sejenis perpustakaan dalam talian bagi perisian AI.
Episod tersebut menarik perhatian meluas dan memarakkan kebimbangan bahawa syarikat-syarikat AI terbesar tidak mampu mengawal model mereka sendiri.
Altman mengulangi pada Jumaat bahawa pencerobohan Hugging Face “masih merupakan insiden paling teruk yang pernah kami saksikan.”
Penemuan itu disusuli dengan pendedahan beberapa insiden serupa di OpenAI serta syarikat pesaingnya, seperti Anthropic dan Meta.
Pada Rabu di New York, Perdana Menteri Australia Anthony Albanese berkata satu ejen OpenAI telah mendapat akses tanpa kebenaran ke portal kesihatan kerajaan pada bulan Jun, dan pemimpin itu mengkritik syarikat berkenaan kerana melengah-lengahkan pemberitahuan kepada pihak berkuasa. – AFP
{suggest}