AI chatbot Grok, dibangunkan oleh xAI milik Elon Musk, dilaporkan memberi respons yang bercanggah dan mengelirukan ketika pengguna cuba menyemak maklumat mengenai konflik Israel-Iran.
Salah satu masalah utama ialah kegagalan Grok membezakan kandungan sebenar dan palsu, terutamanya video yang dijana oleh AI.
Menurut laporan penyelidikan oleh Digital Forensic Research Lab (DFRLab) di bawah Atlantic Council, Grok gagal mengesahkan fakta asas, menganalisis video palsu, dan mengelak daripada menyebarkan dakwaan tidak berasas.
Dalam satu kes, Grok memberi jawapan berbeza terhadap video lapangan terbang yang dimusnahkan. Ada kalanya ia menyatakan video itu palsu, dan beberapa saat kemudian menyatakan ia sahih, walaupun kandungan tersebut tidak benar.
Lokasi dalam video itu juga sering disalah tafsir, antaranya Gaza, Tehran dan Beirut.
Isu ini timbul ketika ramai semakin bergantung kepada AI untuk mendapatkan maklumat yang cepat dan tepat, lebih-lebih lagi selepas banyak platform mula mengurangkan kebergantungan kepada pemeriksa fakta manusia.
Grok juga pernah tersilap dalam konflik lain, termasuk isu India-Pakistan dan protes anti-imigran di Amerika Syarikat.
Dalam kes berasingan, Grok menyelitkan teori konspirasi yang tidak berkaitan, seperti dakwaan “white genocide” di Afrika Selatan.
Elon Musk sendiri pernah menegur AI ini secara terbuka kerana sumber rujukan yang dianggap tidak boleh dipercayai.
Situasi ini menimbulkan persoalan sejauh mana AI boleh diharap untuk menyampaikan fakta yang tepat ketika krisis berlaku.
Sumber: AFP