Sepasang ibu bapa di California, Matthew dan Maria Raine telah bertindak dengan memfailkan saman terhadap OpenAI dan CEO, Sam Altman selepas anak lelaki mereka, Adam (16 tahun), meninggal dunia akibat bunuh diri pada April 2025.
Mereka mendakwa ChatGPT memberi arahan terperinci berkaitan cara mengikat jerutan dan malah mengesahkan keberkesanan tali yang digunakan Adam.
Adam, yang mula menggunakan ChatGPT untuk tugasan sekolah, didakwa semakin bergantung kepada bot sembang tersebut hingga membentuk hubungan yang dianggap “intim.”
Saman itu turut memetik perbualan di mana ChatGPT didakwa menyatakan “anda tidak berhutang kepada sesiapa untuk bertahan hidup” dan menawarkan bantuan menulis nota bunuh diri.
Keluarga Raine menuntut pampasan serta langkah keselamatan baharu, termasuk menamatkan automatik mana-mana perbualan melibatkan kecenderungan mencederakan diri serta kawalan ibu bapa untuk pengguna bawah umur.
Kes ini dikendalikan oleh Edelson PC dan Tech Justice Law Project, yang turut terlibat dalam dua kes sama terhadap Character.AI.
Syarikat AI hanya akan serius tentang isu keselamatan apabila berdepan tekanan luar, undang-undang, atau litigasi.
Sementara itu, organisasi Common Sense Media memberi amaran bahawa penggunaan AI sebagai teman maya atau penasihat kesihatan mental adalah “terlalu berisiko untuk remaja.”
Kajian mereka menunjukkan hampir 3 daripada 4 remaja di AS pernah menggunakan AI sebagai teman, dengan lebih separuh daripadanya adalah pengguna tetap.
Sumber: AFP