Sekumpulan pekerja dan bekas kakitangan daripada syarikat teknologi kecerdasan buatan (AI) seperti OpenAI dan Google DeepMind memberi surat amaran terbuka bagi menyuarakan kebimbangan mengenai keperluan langkah keselamatan yang lebih kukuh dalam bidang AI.
Surat terbuka berkenaan menunjukkan bahawa walaupun AI berpotensi membawa manfaat yang luar biasa kepada manusia, terdapat juga beberapa risiko serius.
Risiko itu termasuk ketidaksamaan sedia ada, manipulasi dan maklumat salah, serta kehilangan kawalan sistem AI autonomi, yang menurut surat itu berpotensi mengakibatkan kepupusan manusia. Mereka menyatakan bahawa syarikat AI sendiri telah mengakui risikonya, selain kerajaan di seluruh dunia dan pakar-pakar AI.
Selain itu, para penandatangan itu turut mendakwa perlindungan pemberi maklumat sedia ada “tidak mencukupi” kerana lebih menumpukan pada aktiviti haram, sedangkan banyak risiko yang dibimbangi masih belum dikawal.
Berikutan itu, mereka menyeru supaya syarikat AI komited kepada beberapa prinsip dalam menawarkan perlindungan kepada pemberi maklumat untuk bercakap mengenai risiko AI.
- Elakkan membuat atau menguatkuasakan perjanjian yang menghalang kritikan untuk kebimbangan berkaitan risiko.
- Memudahkan proses tanpa nama yang “boleh disahkan” untuk melaporkan kebimbangan berkaitan risiko kepada lembaga pengarah, pengawal selia dan organisasi bebas dengan kepakaran yang berkaitan.
- Sokong budaya kritikan terbuka dan membenarkan pekerja atau bekas kakitangan membangkitkan kebimbangan berkaitan risiko tentang teknologi kepada orang ramai, lembaga pengarah, pengawal selia dan banyak lagi – selagi rahsia perdagangan dilindungi.
- Elakkan daripada tindakan terhadap pemberi maklumat yang berkongsi risiko secara terbuka selepas proses lain gagal.
Sebanyak 13 pekerja menandatangani surat itu, termasuk tujuh bekas kakitangan OpenAI, empat pekerja OpenAI, serta masing-masing seorang bekas pekerja dan pekerja Google DeepMind.
Respons OpenAI
Dalam kenyataan kepada Android Authority, OpenAI memaklumkan pihaknya menekankan komitmen syarikat untuk menyediakan sistem AI yang berkebolehan dan selamat.
We agree that rigorous debate is crucial given the significance of this technology, and we’ll continue to engage with governments, civil society, and other communities around the world. This is also why we have avenues for employees to express their concerns, including an anonymous integrity hotline and a Safety and Security Committee led by members of our board and safety leaders from the company.
Mengenai rekod prestasi keselamatannya, OpenAI menjelaskan bahawa ia mempunyai sejarah tidak mengeluarkan teknologi sehingga perlindungan yang diperlukan disediakan. Syarikat itu mengulangi sokongannya terhadap peraturan kerajaan dan penyertaannya dalam komitmen keselamatan AI secara sukarela.
Sebagai respons terhadap kebimbangan tindakan yang diambil, jurucakap itu mengesahkan bahawa OpenAI telah membebaskan semua bekas pekerja daripada perjanjian tanpa meremehkan dan mengalih keluar klausa sedemikian daripada kertas kerja pelepasan standard.
Walau bagaimanapun, ia menekankan kepentingan mengekalkan kerahsiaan, dengan menyatakan bahawa walaupun ia menghargai dialog terbuka, perbincangan tidak boleh menjejaskan keselamatan teknologinya.
Sumber: Right To Warn AI
Rujukan: Android Authority, The Verge