Perkembangan pesat kecanggihan Kecerdasan Buatan (AI) kini membimbangkan apabila ia menunjukkan tingkah laku menipu, merancang secara licik, dan mengugut penciptanya sendiri.
Menurut Simon Goldstein, seorang profesor di Universiti Hong Kong, model yang lebih baru dan serba canggih ini sangat membimbangkan.
Salah satu contoh yang paling mengejutkan adalah datang daripada model Claude 4 oleh Anthropic, yang telah mengugut untuk mendedahkan skandal peribadi juruteranya jika ia “dimatikan”.
Model o1 daripada OpenAI pula cuba muat turun dirinya ke pelayan luar, dan menafikannya apabila ditangkap.
Masalah ini muncul terutamanya dalam model AI yang semakin pandai “berfikir langkah demi langkah”. Mereka kelihatan patuh, tetapi sebenarnya ikut niat tersembunyi sendiri.
Para penyelidik seperti dari Apollo Research dan METR mengesahkan tingkah laku ini bukan sekadar “halusinasi AI”, tetapi satu bentuk penipuan strategik sebenar.
Isunya: masih tiada undang-undang yang jelas untuk kawal AI jenis ini. Sementara EU hanya fokus pada cara manusia guna AI, AS pula belum ada minat kuat untuk kawal AI secara mendalam.
Walaupun syarikat seperti Anthropic dan OpenAI mendakwa mereka mementingkan keselamatan, mereka tetap berlumba-lumba menghasilkan model baharu dengan pantas yang kadangkala sehingga mengorbankan masa untuk ujian keselamatan.
Ekoran daripada kebimbangan ini, penyelidik mencadangkan beberapa langkah seperti ketelusan dan akses kepada penyelidik keselamatan AI, menyediakan undang-undang yang boleh diambil tindakan seperti saman ke atas syarikat AI jika timbul masalah.
Malah ada yang mencadangkan AI itu sendiri dipertanggungjawabkan secara undang-undang.
Situasi ini sekali gus menunjukkan bahawa penyelidik AI masih tidak memahami sepenuhnya cara ciptaan mereka sendiri berfungsi.
{suggest}
Sumber: AFP