Sekelompok ilmuwan kecerdasan buatan yang berpengaruh dari seluruh dunia menyerukan pembentukan badan internasional untuk mengawasi pengembangan AI dan mencegah potensi “konsekuensi bencana” seiring dengan kemajuan teknologi yang pesat.
dari zaman new york laporan Ilmuwan AI ternama dari Amerika Serikat, Tiongkok, dan negara-negara lain bersatu untuk mengeluarkan peringatan keras tentang potensi risiko yang ditimbulkan oleh kemajuan pesat teknologi AI. Kelompok ini, yang beranggotakan para pionir dan tokoh berpengaruh di bidang ini, menyerukan negara-negara untuk menciptakan sistem pengawasan global guna mengurangi risiko-risiko ini dan memastikan pengembangan AI yang aman.
Para ilmuwan yang membantu meletakkan dasar bagi AI modern mengungkapkan keprihatinan mereka dalam sebuah pernyataan yang dirilis Senin. Mereka berpendapat bahwa teknologi AI dapat melampaui kemampuan penciptanya dalam beberapa tahun, dan bahwa “hilangnya kendali manusia atau penggunaan sistem AI yang jahat dapat menimbulkan konsekuensi yang menghancurkan bagi seluruh umat manusia.”
Seruan untuk bertindak ini muncul ketika AI dengan cepat dikomersialkan, memindahkan teknologi dari ilmu pengetahuan ke aplikasi umum seperti ponsel pintar, mobil, dan ruang kelas. Pemerintah di seluruh dunia sedang menghadapi tantangan dalam mengatur dan memanfaatkan teknologi canggih ini.
Jillian Hadfield, seorang sarjana hukum dan profesor ilmu komputer dan pemerintahan di Universitas Johns Hopkins, menyoroti kurangnya rencana untuk mengendalikan sistem AI jika mereka mengembangkan kemampuan berbahaya saat ini. “Jika suatu bencana terjadi enam bulan dari sekarang dan Anda menemukan bahwa Anda memiliki model yang dapat berkembang secara mandiri, siapa yang akan Anda hubungi?” tanya Hadfield.
Untuk mengatasi masalah kritis ini, sekelompok ilmuwan telah mengusulkan pembentukan otoritas keselamatan AI di setiap negara. Pihak berwenang ini akan bertanggung jawab untuk mendaftarkan sistem AI di wilayah mereka dan bekerja sama untuk menyepakati serangkaian garis merah dan tanda peringatan, termasuk kemampuan sistem AI untuk meniru dirinya sendiri atau dengan sengaja menyesatkan penciptanya untuk menanggung beban tersebut. Kerja sama ini akan dikoordinasikan oleh organisasi internasional.
Pernyataan tersebut ditandatangani oleh beberapa nama besar di bidang AI, termasuk Joshua Bengio, Andrew Yao, dan Jeffrey Hinton, pemenang Turing Award, yang setara dengan Hadiah Nobel bidang komputasi. Kelompok ini juga mencakup para ilmuwan dari beberapa lembaga penelitian AI besar di Tiongkok, yang beberapa di antaranya menerima dana negara dan memberi nasihat kepada pemerintah.
Breitbart News sebelumnya melaporkan bahwa Jeffrey Hinton, yang dikenal sebagai “bapak baptis AI,” memperingatkan bahwa waktu hampir habis untuk mengatur AI dengan benar.
Hinton tidak segan-segan menjelaskan sisi gelap dan ketidakpastian seputar AI. Dia terus terang menyatakan: Dan biasanya saat Anda mencoba sesuatu yang benar-benar baru untuk pertama kalinya, Anda akan membuat kesalahan. Dan Anda tidak mungkin salah dalam hal ini. ”
Salah satu kekhawatiran paling mendesak yang dikemukakan Hinton adalah mengenai otonomi sistem AI, khususnya potensi kemampuan mereka untuk menulis dan memodifikasi kode komputer mereka sendiri. Ia berpendapat bahwa wilayah ini bisa lepas kendali dari tangan manusia dan hasil dari skenario seperti ini tidak dapat diprediksi sepenuhnya. Selain itu, ketika sistem AI terus menyerap informasi dari berbagai sumber, mereka menjadi semakin mahir dalam memanipulasi perilaku manusia dan pengambilan keputusan. Hinton memperkirakan bahwa “dalam lima tahun, mereka mungkin bisa berpikir lebih baik daripada kita.”
Konferensi tersebut, yang diselenggarakan oleh kelompok penelitian nirlaba Far.AI, diadakan di Venesia dan menjadi kesempatan langka bagi ilmuwan Tiongkok dan Barat untuk berinteraksi di tengah ketegangan persaingan teknologi antara Amerika Serikat dan Tiongkok.
Terlepas dari tantangan yang ditimbulkan oleh ketidakpercayaan antara kedua negara, para ilmuwan menekankan pentingnya dialog dan perlunya kerja sama. Dr. Bengio menggambarkan kemiripan dengan pembicaraan era Perang Dingin antara ilmuwan Amerika dan Soviet yang membantu mewujudkan koordinasi untuk mencegah bencana nuklir.
Untuk informasi lebih lanjut, zaman new york Di Sini.
Lucas Nolan adalah reporter Breitbart News yang meliput masalah kebebasan berpendapat dan sensor online.
