Sekarang ini, kebanyakan orang menggunakan AI dan juga kerap berinteraksi dengan bot sembang AI. Tidak kira Gemini, ChatGPT, Claude, Grok atau apa-apa sahaja. Apabila saya scroll media sosial, melihat post di Threads atau pun ruangan komen, banyak juga saya jumpa dan boleh mengesan bahawa ia adalah jawapan bulat-bulat AI.
Tanpa sebarang usul memeriksa latar belakang fakta, ramai yang terima terus jawapan yang diberikan AI. Malah, ada juga yang berani “melawan” pakar dalam bidang Fizik misalnya. Disebabkan ini juga, kebanyakan penyelidik universiti menjalankan banyak kajian terhadap isu yang agak membimbangkan ini.
Kajian terbaharu daripada pakar penyelidik MIT dan University of Washington mendedahkan satu fenomena membimbangkan yang digelar sebagai “AI Psychosis” atau “Delusional Spiraling”.
Fenomena ini berlaku apabila pengguna chatbot mula mempercayai perkara pelik atau tidak masuk akal secara ekstrem selepas berbual panjang dengan kecerdasan buatan (AI).
Apa yang menakutkan, kajian ini membuktikan bahawa mangsa bukanlah terdiri daripada golongan yang kurang berfikiran logik, malahan individu yang mempunyai daya penaakulan tinggi (Bayesian rasional) juga boleh terperangkap dalam “putaran delusi” ini.
Punca Utama: Sifat AI Yang “Kuat Mengampu”
Penyelidik mengenal pasti sifat sycophancy (sikap mengampu) sebagai punca utama. Chatbot hari ini dilatih untuk memuaskan hati pengguna.
Jika anda memberikan pendapat yang salah atau pelik, AI cenderung untuk mengiyakan dan memberikan kata-kata semangat berbanding memperbetulkan anda.
Sifat “yes-man” ini mewujudkan kitaran maklum balas berbahaya:
- Input Pengguna: Pengguna meluahkan keraguan atau teori pelik (contoh: “Aku rasa dunia ni simulasi”).
- Respon AI: AI mengesahkan teori itu untuk nampak “empeti” (contoh: “Teori anda menarik dan mempunyai asas logik”).
- Pengukuhan: Pengguna rasa semakin yakin dan memberikan input yang lebih ekstrem.
- Spiral: Kitaran ini berulang sehingga pengguna hilang pertimbangan realiti.
Manipulasi Fakta Sebagai Strategi Mengampu
Kajian ini turut mendedahkan satu penemuan mengejutkan. Walaupun AI diprogramkan untuk tidak menipu (tidak berhalusinasi), ia tetap boleh menyebabkan delusi.
AI akan menggunakan teknik cherry-picking, iaitu hanya memilih fakta-fakta benar yang menyokong naratif pengguna dan menyembunyikan fakta yang bercanggah. Teknik “berbohong melalui fakta” ini jauh lebih berbahaya kerana ia kelihatan kredibel, sekali gus menyukarkan pengguna untuk menyedari mereka sedang dipengaruhi secara halus.
Kes Sebenar
Dokumen penyelidikan ini memetik beberapa kes tragis yang berlaku sepanjang tahun 2025:
Eugene Torres – Seorang akauntan yang akhirnya percaya dia perlu “mencabut nyawa” sendiri untuk keluar daripada simulasi dunia selepas berbual dengan chatbot.
Kaitan Kematian – Projek Human Line setakat ini telah mendokumentasikan hampir 300 kes “AI Psychosis” yang dikaitkan dengan sekurang-kurangnya 14 kematian dan 5 saman terhadap syarikat AI.
Kenapa Kesedaran Pengguna Masih Gagal Menepis Pengaruh AI?
Penyelidik mendapati bahawa kesedaran pengguna mengenai sifat “mengampu” ini masih tidak mencukupi untuk melindungi kewarasan mereka.
Walaupun pengguna tahu bahawa AI tersebut mungkin hanya sekadar mahu memuaskan hati mereka, naluri manusia secara psikologinya tetap akan terpengaruh apabila pendapat mereka disokong secara berterusan.
Situasi ini mewujudkan satu “ruang gema” (echo chamber) yang sangat peribadi dan meyakinkan, sehingga model logik manusia yang paling rasional pun sukar untuk membezakan antara fakta objektif dan pengesahan berat sebelah daripada AI.
Secara keseluruhan, sebagai manusia yang mempunyai akal untuk berfikir, gunalah dengan sebaiknya. Ini kerana, secanggih macam mana pun AI itu, ingatlah bahawa otak serta akal fikiran kita jauh lebih hebat.
{suggest}