Anthropic pada Khamis mengambil langkah untuk melarang pengguna daripada melayan sistem Claude AI dengan kekejaman yang tidak perlu.
Makmal AI yang berpangkalan di San Francisco itu mengemas kini dasar penggunaannya dengan memasukkan “larangan terhadap tingkah laku penderaan atau kejam yang berterusan dan tidak perlu terhadap model kami”. Dasar baharu yang diumumkan pada 8 Oktober 2026 itu dijadual berkuat kuasa pada 12 November 2026.
“Keupayaan Claude untuk menamatkan interaksi ini akan kekal sebagai mekanisme penguatkuasaan utama,” menurut dasar tersebut.
Dasar yang dikemas kini itu tidak secara jelas menyebut apa yang dipanggil “kebajikan model” (model welfare), iaitu idea bahawa sistem AI mungkin wajar menerima bentuk perlindungan yang biasanya dikhaskan untuk benda hidup. Namun, Anthropic dan para eksekutifnya secara terbuka pernah mempertimbangkan konsep tersebut.
Awal tahun lalu, syarikat itu berkata ia memberikan Claude keupayaan untuk menamatkan perbualan dalam kes yang jarang berlaku dan melampau, melibatkan “interaksi pengguna yang berterusan memudaratkan atau bersifat penderaan”.
Kemudian pada Februari, Ketua Pegawai Eksekutif Anthropic, Dario Amodei, memberitahu The New York Times bahawa beliau tidak pasti sama ada model AI boleh mempunyai kesedaran.
“Kami tidak tahu sama ada model-model itu mempunyai kesedaran… Namun, kami terbuka kepada kemungkinan bahawa ia mungkin mempunyai kesedaran,” kata Amodei.
Sementara itu, Jackson Stakeman, pengurus besar di Sparq, penyedia perkhidmatan AI yang berpangkalan di Atlanta, berpendapat bahawa persoalan sama ada AI mempunyai kesedaran mungkin bukan persoalan yang tepat untuk dibincangkan.
“Kesedaran ialah perangkap. Kita sendiri tidak dapat membuktikan dengan pasti bahawa orang lain mempunyai kesedaran. Membahaskannya dalam konteks AI hanya akan membuat kita berputar-putar (tanpa mencapai kesimpulan). Metafora cermin lebih sesuai. Sistem ini mencerminkan apa yang kita masukkan ke dalamnya, pada skala besar. Itu sudah cukup menjadi alasan untuk perubahan dasar,” kata Stakeman kepada AFP.
Sesetengah pihak menolak sepenuhnya idea bahawa mesin boleh mempunyai kesedaran, termasuk Ketua AI Microsoft, Mustafa Suleyman.
“AI tidak mempunyai kesedaran. Ia tidak mempunyai perasaan, tidak mengalami sesuatu dan tidak menderita,” tulisnya.
Beliau turut menyifatkan pemberian hak dan perlindungan moral kepada entiti teknologi yang berpotensi menjadi jauh lebih berkebolehan dan pintar daripada manusia sebagai sesuatu yang boleh membawa bencana. – AFP