Sejak beberapa hari lalu, platform X menyaksikan peningkatan kandungan imej yang dimanipulasi menggunakan kecerdasan buatan (AI) Grok, termasuk melibatkan wanita dan kanak-kanak.
Kandungan tersebut dilihat melangkaui batas, dengan sebahagiannya bersifat tidak senonoh, jelik dan memudaratkan.
Isu ini timbul susulan pelancaran ciri penyuntingan imej berasaskan AI di X, yang membolehkan pengguna mengubah suai mana-mana gambar di platform itu dengan mudah. Dengan ciri “Edit Image”, Grok boleh menjana semula imej berdasarkan arahan atau prompt yang diberikan oleh pengguna.
Lebih membimbangkan, proses penyuntingan ini tidak memerlukan kebenaran daripada individu yang terlibat, dan tiada notifikasi diberikan apabila imej mereka diubah suai.
Keadaan ini sekali gus menimbulkan kebimbangan terhadap aspek keselamatan digital, perlindungan privasi serta potensi penyalahgunaan teknologi AI.
Tindakan MCMC
Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) memaklumkan pihaknya memandang serius isu ini dan mengambil maklum aduan orang awam berhubung penyalahgunaan AI di platform X.
Menurut MCMC, penghasilan atau penyebaran kandungan jelik, lucah atau sumbang merupakan kesalahan di bawah Seksyen 233 Akta Komunikasi dan Multimedia 1998 (AKM).
MCMC menegaskan bahawa pengguna X di Malaysia yang disyaki melanggar akta ini akan disiasat, dan tindakan sewajarnya akan diambil.
Dalam masa sama, MCMC juga sedang menyiasat kemudaratan dalam talian yang berlaku di X dan akan memanggil wakil platform berkenaan.
KENYATAAN MEDIA
PENYALAHGUNAAN AI UNTUK MENGHASILKAN KANDUNGAN MEMUDARATKAN ADALAH SUATU KESALAHAN – MCMC#MCMC pic.twitter.com/L4X4hk4o3R
— MCMC (@MCMC_RASMI) January 3, 2026
Tanggungjawab platform di bawah ONSA
Isu ini turut dikaitkan dengan penguatkuasaan Akta Keselamatan Dalam Talian 2025 (ONSA), yang menetapkan tanggungjawab kepada penyedia perkhidmatan berlesen untuk mencegah penyebaran kandungan memudaratkan, termasuk kandungan lucah serta bahan penganiayaan seksual kanak-kanak (CSAM).
Walaupun X bukan penyedia perkhidmatan berlesen di Malaysia pada masa ini, MCMC menekankan platform tersebut tetap perlu mematuhi piawaian keselamatan dalam talian di negara ini dan bertanggungjawab mencegah penyebaran kandungan memudaratkan.
Respons X
Dalam konteks global, pemilik platform X, Elon Musk turut menegaskan bahawa sesiapa yang menggunakan Grok untuk menghasilkan kandungan haram akan dikenakan tindakan yang sama seperti jika mereka sendiri memuat naik kandungan tersebut di X.
Kenyataan ini menunjukkan pihak platform sedar tentang potensi penyalahgunaan dan memberi amaran bahawa sebarang pelanggaran akan dikenakan tindakan.
We’re not kidding https://t.co/mi36mDcHLN
— Elon Musk (@elonmusk) January 3, 2026
Panduan untuk pengguna
Bagi pihak pengguna, terutamanya yang menjadi mangsa manipulasi imej berasaskan AI, disarankan untuk melaporkan kandungan memudaratkan kepada platform berkaitan serta membuat laporan kepada Polis Diraja Malaysia (PDRM) dan MCMC, termasuk melalui portal aduan dalam talian MCMC.
Langkah ini penting bagi melindungi privasi individu, meningkatkan kesedaran tentang keselamatan digital, dan memastikan platform media sosial bertanggungjawab terhadap penyebaran kandungan berbahaya.
{suggest}