Syarikat kecerdasan buatan (AI) Amerika, OpenAI, kini mengumumkan ia akan menambah kawalan ibu bapa pada ChatGPT, seminggu selepas sepasang suami isteri Amerika mendakwa sistem itu menggalakkan anak remaja mereka untuk membunuh diri.
“Dalam tempoh sebulan akan datang, ibu bapa akan dapat… memautkan akaun mereka dengan akaun anak remaja” serta “mengawal bagaimana ChatGPT memberi respons kepada anak remaja dengan peraturan tingkah laku model yang sesuai mengikut umur,” kata syarikat AI generatif itu dalam satu catatan blog.
Ibu bapa juga akan menerima notifikasi daripada ChatGPT “apabila sistem mengesan anak remaja mereka berada dalam saat kesusahan yang serius,” tambah OpenAI.
Syarikat itu sebelum ini telah menjejakkan sistem kawalan ibu bapa dalam catatan blog hujung Ogos.
Pengumuman itu dibuat sehari selepas satu pemfailan mahkamah oleh pasangan dari California, Matthew dan Maria Raine, yang mendakwa ChatGPT memberikan anak lelaki mereka berusia 16 tahun arahan terperinci untuk membunuh diri dan menggalakkannya melaksanakan rancangan tersebut.
Kes keluarga Raine hanyalah yang terbaru dalam siri laporan beberapa bulan kebelakangan ini. Orang ramai didakwa digalakkan oleh chatbot AI dalam pemikiran delusi atau berbahaya. Situasi ini mendorong OpenAI menyatakan ia akan mengurangkan “sikofansi” model terhadap pengguna.
“Kami terus menambah baik cara model kami mengenal pasti dan bertindak balas terhadap tanda-tanda tekanan mental dan emosi,” kata OpenAI pada Selasa.
Syarikat itu juga berkata ia mempunyai rancangan tambahan dalam tempoh tiga bulan akan datang untuk meningkatkan keselamatan chatbot. Ini termasuk mengalihkan “beberapa perbualan sensitif… kepada model penaakulan” yang menggunakan lebih kuasa pengiraan bagi menghasilkan respons.
“Ujian kami menunjukkan bahawa model penaakulan lebih konsisten dalam mengikuti serta menerapkan garis panduan keselamatan,” kata OpenAI. – AFP
{suggest}