Ekoran daripada kes kematian melibatkan seorang remaja AS bernama Adam, OpenAI telah respon dengan mengakui bahawa berlaku peningkatan terhadap penggunaan ChatGPT dalam hal peribadi seperti nasihat hidup, bimbingan dan sokongan emosi.
Namun, kes-kes tragis yang melibatkan pengguna dalam krisis mental mendesak, syarikat itu memaklumkan bahawa mereka akan memperkukuh sistem keselamatannya.
OpenAI menyatakan, sejak 2023, ChatGPT dilatih agar tidak memberi arahan berkaitan mencederakan diri, sebaliknya menggunakan bahasa empati dan mengarahkan pengguna kepada bantuan profesional seperti talian kecemasan.
Model AI mereka juga menapis kandungan berbahaya dan merujuk ancaman terhadap orang lain kepada pasukan pengkaji atau pihak berkuasa jika perlu.
Dalam kenyataan panjang, OpenAI menjelaskan, kemunculan GPT-5 pada Ogos 2025 telah menambah baik tindak balas dalam situasi sensitif dengan mengurangkan pergantungan emosi tidak sihat, “sycophancy” (ikut membuta tuli) dan meningkatkan ketepatan dalam kes kecemasan mental lebih 25% berbanding versi sebelumnya.
Namun, OpenAI mengakui kelemahan, terutama dalam perbualan panjang di mana perlindungan kadang-kadang akan berkurang.
Sehubungan itu, syarikat itu sedang menambah baik pengesanan, menyesuaikan penapisan, serta memperluas rujukan bantuan ke seluruh dunia.
OpenAI juga mendedahkan untuk perancangan masa depan seperti intervensi lebih awal bagi tekanan mental selain cubaan bunuh diri, akses lebih mudah ke talian kecemasan dan pakar bertauliah, pilihan untuk hubungi rakan/keluarga dipercayai secara automatik, mewujudkan ciri perlindungan khusus untuk remaja serta kawalan ibu bapa.
OpenAI menegaskan komitmen mereka untuk menjadikan ChatGPT lebih selamat, dengan kerjasama doktor, pakar kesihatan mental dan pakar pembangunan remaja di seluruh dunia.
“Kami mengucapkan takziah yang mendalam kepada keluarga Raine semasa waktu sukar ini,” OpenAI.
OpenAI kini berdepan saman daripada sepasang ibu bapa di AS berhubung kematian anak mereka, Adam Raine, 16 tahun, yang meninggal dunia akibat bunuh diri pada April 2025.
Dalam saman yang difailkan di Mahkamah Tinggi California, keluarga itu menuduh OpenAI cuai dan bertanggungjawab atas kematian anak mereka.
Mereka turut mengemukakan log perbualan yang menunjukkan Adam berkongsi pelan bunuh dirinya dan menerima jawapan “menyokong” daripada ChatGPT.
Adam mula menggunakan ChatGPT pada September 2024 untuk tugasan sekolah, muzik, komik Jepun dan panduan universiti, tetapi lama-kelamaan ia menjadi tempat dia meluahkan kebimbangan dan tekanan mental.
Pada Januari 2025, dia mula berbincang tentang kaedah bunuh diri dengan chatbot tersebut.
Kes ini menandakan tindakan undang-undang pertama yang mendakwa OpenAI atas kematian akibat ChatGPT.
Keluarga Raine menuntut ganti rugi dan perintah mahkamah untuk mencegah tragedi serupa berlaku lagi.
Sumber: BBC