Selepas Anthropic memperkenalkan tera air (watermark) AI halimunan untuk Claude, OpenAI kini mengambil langkah serupa dengan membawa tera air teks tidak kelihatan kepada ChatGPT dan Codex di Kesatuan Eropah (EU).
Langkah itu dibuat sebagai sebahagian daripada pematuhan terhadap EU AI Act, yang mewajibkan ketelusan lebih jelas bagi kandungan yang dihasilkan atau dimanipulasi oleh sistem AI.
OpenAI menggunakan teknologi yang dinamakan textGrain, iaitu sistem yang menambah isyarat statistik tersembunyi pada corak pemilihan perkataan model.
Tera air ini tidak kelihatan kepada pengguna biasa dan tidak mengubah rupa teks secara visual. Sebaliknya, ia boleh dikesan menggunakan alat khusus bagi menilai sama ada sesuatu petikan teks berkemungkinan dihasilkan oleh model OpenAI yang menggunakan textGrain.
Pelaksanaannya akan dibuat secara berperingkat.
Dalam beberapa minggu akan datang, OpenAI akan mula menambah tera air tersebut secara lalai pada output ChatGPT dan Codex yang layak di EU. Bagi pelanggan API di seluruh dunia pula, fungsi watermarking boleh diaktifkan secara pilihan pada model tertentu, tetapi tidak dihidupkan secara lalai.
{suggest}
OpenAI juga merancang membuka akses kepada alat pengesan tera air, tetapi pada peringkat awal ia hanya akan diberikan kepada penyelidik dan organisasi pakar yang diluluskan.
Syarikat itu mengakui teknologi ini masih mempunyai batasan. Dalam ujian dalaman, petikan teks yang lebih panjang lebih mudah dikesan, manakala teks pendek atau kandungan yang sudah banyak diubah boleh mengurangkan ketepatan pengesanan.
Sebagai contoh, bagi teks sekitar 400 token, kadar pengesanan dilaporkan sekitar 92%. Namun, jika 10% perkataan diganti dengan sinonim, kadar itu boleh turun kepada sekitar 66%, dan jatuh lebih rendah apabila lebih banyak perubahan dilakukan.
OpenAI turut menegaskan bahawa tera air ini tidak boleh digunakan untuk menentukan siapa yang menulis teks, sama ada kandungan itu benar atau palsu, atau sejauh mana manusia terlibat dalam proses penulisan.
Ketiadaan tera air juga tidak bermaksud sesuatu kandungan semestinya ditulis oleh manusia.
Pendekatan ini hampir sama dengan langkah Anthropic sebelum ini yang memperkenalkan tera air teks untuk Claude. Bezanya, pelaksanaan OpenAI buat masa ini lebih terhad kepada pengguna di EU, manakala pelanggan API di rantau lain hanya boleh mengaktifkannya secara pilihan.
Dengan langkah ini, OpenAI menjadi antara syarikat AI utama yang mula membina sistem asal-usul kandungan secara terus ke dalam output teks, selari dengan tekanan peraturan yang semakin meningkat terhadap ketelusan kandungan AI.