Dalam satu realiti selari, Ratu Elizabeth II memuji snek keju, Saddam Hussein yang bersenjata masuk ke gelanggang gusti, manakala Pope John Paul II cuba bermain papan selaju.
Video AI hiper-realistik yang “menghidupkan semula” selebriti dan tokoh terkenal yang telah meninggal dunia — dihasilkan menggunakan aplikasi seperti Sora keluaran OpenAI — kini tular di internet, sekali gus mencetuskan perdebatan mengenai kawalan ke atas imej dan rupa individu yang telah tiada.
Aplikasi OpenAI itu, yang dilancarkan pada September dan sering digelar sebagai mesin deepfake, telah menghasilkan lambakan video tokoh sejarah seperti Winston Churchill serta selebriti terkenal termasuk Michael Jackson dan Elvis Presley.
Dalam satu klip TikTok yang ditonton AFP, Ratu Elizabeth II, memakai mutiara dan mahkota, tiba ke acara gusti menaiki skuter, memanjat pagar dan melompat ke atas seorang ahli gusti lelaki. Dalam klip Facebook lain, mendiang ratu itu dilihat memuji snek keju berwarna oren di sebuah pasar raya, manakala satu lagi memaparkannya bermain bola sepak.
Namun, tidak semua video yang dikuasakan oleh model Sora 2 ini mencetuskan gelak ketawa.
Pada Oktober, OpenAI menyekat pengguna daripada mencipta video Martin Luther King Jr. selepas waris tokoh hak sivil itu mengadu tentang gambaran yang dianggap tidak menghormati.
Sebelum sekatan itu, ada pengguna menghasilkan video yang menggambarkan King membuat bunyi monyet ketika menyampaikan ucapan terkenal “I Have a Dream”, menunjukkan betapa mudah tokoh awam digambarkan berkata atau melakukan perkara yang tidak pernah berlaku.
‘Menjengkelkan’
“Kita sedang memasuki zon ‘uncanny valley’,” kata Constance de Saint Laurent, profesor di Universiti Maynooth, Ireland, merujuk kepada fenomena di mana objek tiruan yang terlalu menyerupai manusia menimbulkan rasa tidak selesa.
“Jika tiba-tiba anda menerima video ahli keluarga yang telah meninggal dunia, itu boleh menjadi trauma,” katanya kepada AFP. “Video-video ini membawa kesan sebenar.”
Dalam beberapa minggu kebelakangan ini, anak-anak mendiang pelakon Robin Williams, pelawak George Carlin dan aktivis Malcolm X mengecam penggunaan Sora untuk mencipta video sintetik bapa mereka. Zelda Williams, anak kepada Robin Williams, merayu di Instagram agar orang ramai “berhenti menghantar video AI ayah”, menyifatkannya sebagai “menjengkelkan”.
Jurucakap OpenAI memberitahu AFP bahawa walaupun terdapat “kepentingan kebebasan bersuara yang kuat” dalam menggambarkan tokoh sejarah, individu awam dan keluarga mereka seharusnya mempunyai kawalan muktamad ke atas rupa dan imej mereka. Bagi tokoh yang “baru meninggal dunia”, wakil sah atau pemilik harta pusaka kini boleh meminta agar imej mereka tidak digunakan dalam Sora.
‘Kawal imej’
“Walaupun OpenAI mengatakan mereka mahu orang ramai mengawal rupa mereka, hakikatnya mereka telah melancarkan alat yang melakukan sebaliknya,” kata Hany Farid, pengasas bersama GetReal Security dan profesor di Universiti California, Berkeley.
“Walaupun mereka (sebahagian besarnya) menghentikan penciptaan video MLK Jr., mereka tidak menghalang pengguna daripada menggunakan identiti ramai selebriti lain.”
Beliau menambah, walaupun OpenAI meletakkan beberapa perlindungan, akan muncul model AI lain tanpa sekatan, menjadikan masalah ini semakin buruk.
Kenyataan itu terbukti apabila selepas laporan palsu pembunuhan pengarah Hollywood Rob Reiner bulan ini, pemeriksa fakta AFP mengesan klip AI menggunakan rupa beliau tersebar di internet.
Dengan perkembangan pesat alat AI canggih, kerentanan ini bukan lagi terhad kepada tokoh terkenal — individu biasa yang telah meninggal dunia juga berisiko imej, nama dan kata-kata mereka dimanipulasi secara sintetik.
Penyelidik memberi amaran bahawa penyebaran kandungan sintetik tanpa kawalan — sering digelar “AI slop” — boleh menyebabkan pengguna hilang kepercayaan terhadap media sosial.
“Masalah utama maklumat palsu bukan kerana orang percaya kepadanya. Ramai sebenarnya tidak. Masalahnya ialah apabila mereka melihat berita sebenar, mereka tidak lagi mempercayainya. Dan ini (Sora) akan memburukkan keadaan secara besar-besaran.” kata Saint Laurent.
AFP.
{suggest}