Stuart Rusell: Kecerdasan AI Tak Terkendali, Tetapi Ia Bisa Menghancurkan Umat Manusia

Berita Baru, Internasional – Pengembangan kecerdasan buatan (AI) yang tidak terkendali dapat menghasilkan pikiran digital yang kuat, yang mampu menghancurkan umat manusia, menurut Profesor Inggris Stuart Russell.

Mengingat langkah besar yang dibuat oleh sistem AI dan pembelajaran mesin akhir-akhir ini, waktunya telah tiba untuk “mengambil napas” dan fokus pada bagaimana melindungi dari risiko yang akan ditimbulkan oleh mesin super cerdas yang tidak dapat dikendalikan, kata profesor ilmu komputer di Universitas dari California, Berkeley, kepada media.

Rusell, yang juga merupakan rekan dari Wadham College, Oxford, hampir tidak dapat menahan rasa frustrasinya terkait regulasi industri AI yang diadopsi oleh pemerintah.
Pemerintah Inggris mengatakan pada bulan Maret bahwa mereka ingin “menghindari undang-undang yang kaku yang dapat menghambat inovasi”, dan memilih “pendekatan yang dapat disesuaikan untuk mengatur AI.”

Menunjuk pada kemampuan luar biasa dari model bahasa ChatGPT OpenAI, yang menggunakan jaringan saraf pembelajaran mendalam untuk menghasilkan output berdasarkan input manusia, dan dapat lulus ujian dengan warna yang cemerlang dan menulis kode komputer, Stuart Russell mengatakan bahwa, “Kami telah membuat kemajuan tanpa mengharapkan.”

Namun demikian, ada yang mengkhawatirkan apabila suatu hari sistem yang mirip dengan ChatGPT dapat dimasukkan ke dalam pikiran digital super cerdas yang menghindari kendali manusia.

“Bagaimana Anda mempertahankan kekuasaan atas entitas yang lebih kuat dari Anda — selamanya? Jika Anda tidak memiliki jawaban, berhentilah melakukan penelitian. Sesederhana itu. Taruhannya tidak bisa lebih tinggi: jika kita tidak mengendalikan peradaban kita sendiri, kita tidak bisa mengatakan apakah kita akan terus ada,” katanya.

Russell, salah satu penulis buku tentang kecerdasan buatan – Kompatibel dengan Manusia: AI dan Masalah Kontrol – mengungkapkan bahwa dia telah dipanggil oleh pemerintah Inggris tahun ini untuk bertindak sebagai penasehat.

Kementerian Luar Negeri, menurut dia, “berbicara dengan banyak orang dan mereka menyimpulkan bahwa kehilangan kendali (dari AI yang kuat) adalah hasil yang masuk akal dan sangat penting.”

Namun, tanggapan dari para menteri adalah, “Kami akan menyambut industri AI seolah-olah, Anda tahu, kami berbicara tentang membuat mobil atau semacamnya.”

Russell menyalahkan upaya lobi persuasif dari industri teknologi, yang telah menghabiskan miliaran untuk “mendorong” pendekatan ini ke “badan legislatif di seluruh dunia”.

Saat ditanya tentang kedatangan kecerdasan umum buatan (AGI) hipotetis yang mampu melakukan tugas intelektual apa pun yang dapat dilakukan manusia, ilmuwan tersebut memperingatkan bahwa ini bukanlah sesuatu yang akan terjadi beberapa dekade lagi. AGI telah disamakan dengan “peradaban alien yang unggul ,” dan kecuali penelitian AI ditampar dengan pengawasan yang lebih ketat.

Seperti dilansir dari Sputnik News, Russell memperingatkan bahwa peradaban manusia mungkin tidak akan memiliki peluang untuk melawannya. Ilmuwan berusaha menjelaskan ketakutannya dalam istilah yang disederhanakan, dengan mengatakan bahwa AI yang sangat kuat dapat dijadikan tugas oleh manusia, tetapi menggunakan strategi untuk mencapainya yang penuh dengan efek buruk bagi umat manusia.

Misalnya, dalam skenario imajiner, AI mungkin diminta untuk memecahkan masalah perubahan iklim, tetapi memilih melakukannya dengan menghapus manusia dari muka bumi.
“Kecuali tujuannya hanya untuk memberi manfaat bagi manusia, Anda sebenarnya menciptakan pesaing – dan itu jelas merupakan hal yang bodoh untuk dilakukan,” kata ilmuwan komputer itu.

Sebelumnya, bersama Elon Musk dan sekelompok pakar kecerdasan buatan dan eksekutif industri, Stuart Russell menandatangani surat yang menyerukan jeda enam bulan dalam pengembangan sistem AI yang lebih maju daripada GPT-4.

Menurut dokumen tersebut, “Sistem AI dengan kecerdasan kompetitif manusia dapat menimbulkan risiko besar bagi masyarakat dan kemanusiaan, seperti yang ditunjukkan oleh penelitian ekstensif dan diakui oleh laboratorium AI terkemuka. ”