Gubernur California Gavin Newsom pada hari Minggu memveto rancangan undang-undang penting yang akan menetapkan perlindungan pertama bagi model kecerdasan buatan dalam jumlah besar. Keputusan ini merupakan pukulan besar terhadap upaya mengatur industri dalam negeri yang berkembang pesat dengan sedikit pengawasan.
Para pendukungnya mengatakan bahwa RUU tersebut akan menetapkan beberapa peraturan pertama mengenai model AI berskala besar di negara tersebut dan membuka jalan bagi peraturan keselamatan AI secara nasional. Awal bulan ini, gubernur dari Partai Demokrat mengatakan kepada audiensi di Dreamforce, sebuah konferensi tahunan yang diselenggarakan oleh raksasa perangkat lunak Salesforce, bahwa California harus memimpin dalam mengatur AI dalam menghadapi kelambanan pemerintah federal, namun mengatakan bahwa proposal tersebut akan memiliki “efek yang mengerikan pada masyarakat.” industri.”
Newsom mengatakan proposal tersebut, yang mendapat tentangan keras dari perusahaan rintisan, raksasa teknologi, dan beberapa anggota DPR dari Partai Demokrat, akan merugikan industri dalam negeri karena menetapkan persyaratan yang lebih ketat.
“Meskipun bermaksud baik, SB 1047 tidak memperhitungkan apakah sistem AI diterapkan di lingkungan berisiko tinggi, membuat keputusan penting, atau menggunakan data sensitif,” kata Newsom dalam sebuah pernyataan. “Sebaliknya, RUU ini menerapkan standar yang lebih ketat bahkan pada fungsi-fungsi yang paling mendasar sekalipun – selama sistem yang lebih besar menerapkannya. Saya tidak yakin itu adalah pendekatan terbaik untuk melindungi masyarakat dari ancaman nyata yang ditimbulkan oleh teknologi.
Newsom malah mengumumkan pada hari Minggu bahwa negara bagian tersebut akan bermitra dengan beberapa pakar industri, termasuk pionir AI Fei-Fei Li, untuk mengembangkan pagar pembatas seputar model AI yang kuat. Li menentang proposal keamanan AI. Untuk memitigasi potensi risiko yang ditimbulkan oleh AI, perusahaan diharuskan menguji model mereka dan mengungkapkan protokol keamanan mereka secara publik untuk mencegah mereka mengubah model, misalnya untuk memusnahkan jaringan listrik suatu negara atau membantu membuat senjata kimia.
Para ahli mengatakan skenario tersebut mungkin terjadi di masa depan seiring dengan kemajuan industri yang pesat. Hal ini juga memberikan perlindungan terhadap pelapor (whistleblower) bagi pekerja. Undang-undang tersebut adalah salah satu dari beberapa rancangan undang-undang yang disahkan oleh Badan Legislatif tahun ini untuk mengatur AI, melawan deepfake, dan melindungi pekerja. Anggota parlemen negara bagian mengatakan California harus mengambil tindakan tahun ini, mengutip pelajaran sulit yang mereka peroleh dari kegagalan mengatur perusahaan media sosial ketika mereka punya kesempatan.
Para pendukung langkah ini, termasuk Elon Musk dan Anthropic, mengatakan bahwa proposal tersebut dapat memberikan transparansi dan akuntabilitas pada model AI skala besar, karena pengembang dan pakar masih belum sepenuhnya memahami bagaimana model AI berperilaku. Mengapa RUU tersebut menargetkan sistem yang membutuhkan lebih dari $100 juta untuk membangunnya.
Tidak ada model AI saat ini yang mencapai ambang batas tersebut, namun beberapa ahli mengatakan hal itu bisa terjadi pada tahun depan.
“Hal ini disebabkan oleh besarnya tingkat investasi di industri ini,” kata Daniel Kokotzlo, mantan peneliti OpenAI yang mengundurkan diri pada bulan April karena kurangnya perhatian perusahaan terhadap risiko AI. “Merupakan kekuatan yang sangat besar untuk mengendalikan perusahaan swasta mana pun tanpa batas, dan ini juga sangat berbahaya.”
Amerika Serikat sudah tertinggal dibandingkan Eropa dalam mengatur AI untuk membatasi risiko. Proposal California tidak sekomprehensif peraturan Eropa, namun para pendukungnya mengatakan ini adalah langkah awal yang baik untuk menetapkan perlindungan terhadap teknologi yang berkembang pesat yang menimbulkan kekhawatiran akan kehilangan pekerjaan, misinformasi, privasi, dan bias otomatisasi. Tahun lalu beberapa perusahaan AI terkemuka secara sukarela setuju untuk mengikuti pengamanan yang diamanatkan Gedung Putih dalam pengujian dan berbagi informasi tentang model mereka.
Para pendukung langkah tersebut mengatakan bahwa RUU California akan memerintahkan pengembang AI untuk memenuhi persyaratan serupa dengan komitmen tersebut. Namun para kritikus, termasuk mantan Ketua DPR AS Nancy Pelosi, berpendapat bahwa RUU tersebut akan “mematikan teknologi California” dan menghambat inovasi. Mereka mengatakan hal ini membuat pengembang AI enggan berinvestasi pada model yang lebih besar atau berbagi perangkat lunak sumber terbuka.
Keputusan Newsom untuk memveto RUU tersebut menandai kemenangan lain di California bagi perusahaan teknologi besar dan pengembang AI, yang banyak di antaranya melakukan lobi dengan Kamar Dagang California tahun lalu untuk menghalangi gubernur dan badan legislatif untuk memajukan peraturan AI. Dua proposal AI besar-besaran lainnya yang menghadapi tentangan yang semakin besar dari industri teknologi dan lainnya gagal bulan lalu sebelum tenggat waktu legislatif. RUU tersebut mengharuskan pengembang AI untuk memberi label pada konten yang dihasilkan AI dan melarang diskriminasi terhadap alat AI yang digunakan untuk membuat keputusan ketenagakerjaan.
Gubernur tersebut mengatakan pada awal musim panas ini bahwa ia ingin melindungi status California sebagai pemimpin global dalam AI, mengingat bahwa 32 dari 50 perusahaan AI terbesar dunia berlokasi di negara bagian tersebut. Dia memuji California sebagai negara yang mengadopsi teknologi ini karena negara bagian tersebut akan segera menerapkan alat AI generatif untuk mengatasi kemacetan jalan raya, memberikan pedoman perpajakan, dan menyederhanakan program tunawisma.
Bulan lalu, negara bagian tersebut juga mengumumkan kemitraan sukarela dengan raksasa AI Nvidia untuk membantu melatih mahasiswa, dosen perguruan tinggi, pengembang, dan ilmuwan data. California juga mempertimbangkan peraturan baru yang melarang diskriminasi AI dalam praktik perekrutan.
Awal bulan ini, Newsom telah menandatangani beberapa undang-undang terberat di negara ini Langkah-langkah untuk mencegah deepfake pemilu dan melindungi pekerja Hollywood dari penggunaan AI tanpa izin. Bahkan dengan veto Newsom, proposal keamanan California menginspirasi anggota parlemen di negara bagian lain untuk mengambil langkah serupa, kata Tatiana Rice, wakil direktur Future of Privacy Forum, sebuah organisasi nirlaba yang bekerja dengan anggota parlemen dalam proposal teknologi dan privasi.
“Mereka akan menirunya atau melakukan sesuatu pada sesi legislatif berikutnya,” kata Rice. “Jadi itu tidak akan hilang.”
