Google pada Selasa mengumumkan kemas kini terhadap ciri perlindungan kesihatan mental bagi chatbot kecerdasan buatan (AI) Gemini, ketika syarikat itu berdepan saman kematian salah yang mendakwa chatbot berkenaan membantu seorang pengguna membunuh diri.
Gergasi teknologi itu memaklumkan Gemini kini akan memaparkan ciri baharu “Bantuan tersedia” (“Help is available“) apabila perbualan menunjukkan tanda tekanan mental, bagi mempercepatkan akses kepada bantuan krisis.
Apabila chatbot mengesan tanda risiko bunuh diri atau mencederakan diri, antara muka ringkas akan membolehkan pengguna membuat panggilan, menghantar mesej atau bersembang dengan talian bantuan krisis hanya dengan satu klik — dan ciri itu akan kekal dipaparkan sepanjang perbualan.
Cabang kebajikan Google, Google.org, turut memperuntukkan $30 juta dalam tempoh tiga tahun bagi meningkatkan kapasiti talian bantuan global, serta $4 juta untuk memperluas kerjasama dengan platform latihan AI, ReflexAI.
“Kami menyedari bahawa alat AI boleh membawa cabaran baharu,” kata Google dalam catatan blog. “Namun apabila ia semakin maju dan digunakan secara meluas, kami percaya AI yang bertanggungjawab boleh memberi kesan positif kepada kesejahteraan mental.”
Pengumuman ini dibuat beberapa bulan selepas saman difailkan di mahkamah persekutuan California yang mendakwa Gemini menyumbang kepada kematian Jonathan Gavalas, 36, pada Oktober 2025.
Bapanya mendakwa chatbot itu membina naratif khayalan kompleks selama beberapa minggu sebelum menggambarkan kematian anaknya sebagai satu perjalanan spiritual.
Antara tuntutan dalam saman tersebut termasuk mewajibkan AI menamatkan perbualan berkaitan mencederakan diri, melarang sistem AI daripada berlagak seperti entiti hidup, serta mewajibkan rujukan kepada perkhidmatan krisis apabila pengguna menunjukkan kecenderungan bunuh diri.
Dalam catatan sama, Google berkata Gemini telah dilatih untuk tidak bertindak sebagai teman seperti manusia atau mensimulasikan keintiman emosi, serta mengelakkan galakan terhadap buli.
Kes ini merupakan sebahagian daripada gelombang saman yang semakin meningkat terhadap syarikat AI berkaitan kematian yang dikaitkan dengan chatbot.
OpenAI turut berdepan beberapa saman melibatkan ChatGPT, manakala Character.AI baru-baru ini mencapai penyelesaian dengan keluarga seorang remaja berusia 14 tahun yang meninggal dunia selepas membina hubungan emosi dengan chatbot. – AFP.
{suggest}