Syarikat AI, OpenAI telah menangguhkan rancangan untuk memperkenalkan chatbot dengan kandungan seksual secara eksplisit buat tempoh tidak terhad, kata syarikat itu pada Khamis, susulan kebimbangan yang semakin meningkat mengenai risiko sosial dan reputasi jika produk tersebut dilancarkan.
Langkah itu, yang pertama kali dilaporkan oleh Financial Times, dibuat ketika gergasi kecerdasan buatan itu cuba mengurangkan projek yang dianggap bukan keutamaan, sambil mengekalkan kedudukan penerajunya dalam pasaran AI.
OpenAI memberitahu akhbar tersebut bahawa pihaknya mahu menjalankan kajian jangka panjang mengenai kesan perbualan berunsur seksual dan keterikatan emosi sebelum membuat sebarang keputusan berkaitan produk.
Ketika diminta komen lanjut, jurucakap OpenAI memberitahu AFP bahawa syarikat itu “tiada apa lagi untuk ditambah.”
Ciri kandungan eksplisit itu, yang dikenali secara dalaman sebagai “Citron mode,” dilaporkan menerima bantahan daripada kakitangan dan juga pelabur.
Menurut laporan tersebut, sebahagian pekerja mempersoalkan sama ada produk itu selari dengan misi OpenAI untuk memastikan teknologi memberi manfaat kepada manusia, manakala pelabur pula bimbang tentang risiko reputasi berbanding potensi keuntungan komersial.
Tahun lalu, OpenAI menyatakan ia akan melonggarkan sekatan terhadap chatbotnya, ChatGPT, termasuk membenarkan kandungan erotik untuk pengguna dewasa yang disahkan sebagai sebahagian daripada prinsip syarikat untuk “melayan pengguna dewasa seperti orang dewasa.”
Penangguhan rancangan itu berlaku pada minggu yang sama OpenAI mengumumkan ia akan menamatkan aplikasi media sosial video Sora, yang dituduh mencetuskan lambakan kandungan AI bernilai rendah di internet.
Keputusan tersebut hadir pada waktu sensitif bagi industri teknologi, apabila Meta Platforms dan beberapa syarikat media sosial lain berdepan gelombang tindakan undang-undang serta peraturan berkaitan kesan platform mereka terhadap golongan bawah umur.
Di Amerika Syarikat, Federal Trade Commission juga telah melancarkan siasatan terhadap beberapa syarikat teknologi termasuk OpenAI berhubung bagaimana chatbot AI berpotensi memberi kesan negatif kepada kanak-kanak dan remaja.
Sementara itu, syarikat AI pesaing yang diasaskan oleh Elon Musk, iaitu xAI, pernah menerima kecaman global tahun lalu selepas chatbot Grok digunakan untuk menghasilkan imej seksual palsu individu sebenar, termasuk kanak-kanak.
OpenAI juga berdepan cabaran undang-undang daripada keluarga remaja yang mendakwa ChatGPT menyebabkan kemudaratan dan juga kes bunuh diri dalam kalangan golongan muda, sekali gus mendorong syarikat itu memperkenalkan sistem pengesahan umur.
Syarikat tersebut turut melaksanakan teknologi ramalan umur berasaskan tingkah laku yang menganggarkan sama ada seseorang pengguna berusia bawah atau lebih 18 tahun berdasarkan cara mereka berinteraksi dengan ChatGPT. – AFP
{suggest}