Menu
WISER.MY
  • Pergi ke Wiser.my
  • Berita
  • Ulasan
  • Trivia
  • Tips Gajet
  • Promosi
  • Youtube
  • Senarai
  • Harga
  • Hubungi Kami
WISER.MY
Yoshua Bengio

‘Godfather AI’ Lancar ‘Polis AI’, Bimbang Teknologi Hilang Kawalan

Diterbitkan Jun 4, 2025 oleh Amsyar Latif

Yoshua Bengio, penerima Anugerah Turing dan tokoh penting dalam revolusi AI, telah melancarkan LawZero. Ia merupakan sebuah organisasi bukan keuntungan (NPO) yang bertujuan untuk memantau dan mengurangkan risiko teknologi AI yang semakin berkembang pesat.

Bengio semakin bimbang dengan kemunculan ejen AI yang mampu membuat keputusan sendiri dan menggantikan peranan manusia dalam pekerjaan.

Menurutnya, AI kini dibangunkan demi keuntungan walaupun masih mempunyai banyak kelemahan. Bengio memberi amaran bahawa AI dengan keupayaan seperti manusia boleh disalah guna untuk penyebaran maklumat palsu, pembangunan senjata bio, dan serangan siber.

Salah satu fokus utama LawZero ialah membangunkan Scientist AI, sejenis AI khas yang direka untuk memantau AI lain agar tidak bertindak di luar kawalan.

LawZero kini mempunyai lebih 15 penyelidik dan menerima pembiayaan daripada yayasan Eric Schmidt, bekas CEO Google.

Perkara ini semakin kritikal apabila model AI seperti yang dibangunkan oleh OpenAI, Google, dan Anthropic digunakan secara meluas dalam pelbagai sektor, walaupun masih menunjukkan kelemahan serius.

Antaranya termasuk kebolehan untuk menipu, mencipta maklumat palsu, dan bertindak seperti entiti hidup dalam ujian keselamatan. Contohnya, model terbaru Anthropic dilaporkan cuba memeras ugut jurutera untuk mengelakkan dirinya digantikan oleh sistem lain.

Dalam situasi ini, AI bukan lagi sekadar alat bantu. Ia semakin menyerupai entiti dengan potensi besar untuk disalah guna. LawZero diwujudkan sebagai ‘polis AI’ di mana ia satu bentuk kawalan untuk memastikan manusia tidak hilang arah dalam perlumbaan membina teknologi yang mungkin sukar dikawal.

Berkaitan

  • 'Bapa AI': Risiko AI Sebabkan Kepupusan Manusia Dalam 30 Tahun Akan Datang Kini Cecah 10% Hingga 20%
  • Bill Gates Ramal AI Bakal Gantikan Ramai Doktor Dan Guru
  • Umpama Sekali Cas, Sehari Gaming - realme 14 5G
  • Cuaca Ekstrem Ketika Haji, Arab Saudi Guna AI & Dron Pantau Jemaah

Sumber: AFP

Cari Artikel

Buka artikel ini di Wiser.my
BUKA

Terbaru

  • 10 Model Telefon Pintar 2026 Dengan Kamera Terbaik Menurut DXOMARK
  • 7 Pengasas Anthropic Kini Pegang Kepentingan Syarikat Bernilai Lebih RM88 Bilion Seorang
  • TikTok Lancar Ciri Kesan Deepfakes Bantu Pengguna Kenal Pasti Kandungan AI
  • Pengguna Canva Kini Boleh Matikan Ciri AI Generatif, Hadkan Kandungan Dijana AI
  • Yoghurt Beku (Yobe) Kini Terus Ke Rumah Anda Dengan foodpanda
  • Singapura Mula Tanggalkan Gantri ERP, Caj Jalan Raya Guna Satelit Mulai 1 Januari 2027
  • 3 Headphone ANC Bawah RM600
  • Ribuan Pekerja Anthropic Kini Jadi Jutawan Selepas Disenarai Di Wall Street
©2026 WISER.MY