Newsom memveto RUU California yang akan menciptakan peraturan keselamatan AI pertama di negara itu

Gubernur Kalifornia Gavin Newsom (kanan) pada hari Minggu memveto rancangan undang-undang yang akan menciptakan perlindungan pertama bagi model kecerdasan buatan berskala besar.

Mereka mengatakan hak veto gubernur merupakan kemunduran besar terhadap upaya membangun batasan seputar AI dan evolusinya yang pesat dengan sedikit pengawasan. Pers Terkait. RUU tersebut mendapat tentangan keras dari perusahaan rintisan, perusahaan teknologi besar, dan beberapa anggota parlemen dari Partai Demokrat.

Awal bulan ini, Newsom mengatakan di DreamForce, sebuah konferensi tahunan yang diselenggarakan oleh raksasa perangkat lunak Salesforce, bahwa California perlu memimpin dalam mengatur AI karena pemerintah federal belum menerapkan perlindungan. katanya. . ”

Gubernur mengatakan SB1047 dapat berdampak negatif terhadap industri dalam negeri karena menetapkan persyaratan yang ketat.

Senator Demokrat menjadi sasaran deepfake yang meniru pejabat pemerintah Ukraina melalui panggilan Zoom: Laporkan

“SB 1047, meski bermaksud baik, gagal mempertimbangkan apakah sistem AI diterapkan di lingkungan berisiko tinggi, melibatkan pengambilan keputusan penting, atau melibatkan penggunaan data sensitif,” kata Newsom dalam sebuah pernyataan. “Sebaliknya, RUU ini menerapkan standar yang ketat bahkan pada fungsi paling dasar dari sistem besar selama sistem tersebut diterapkan. Ini adalah pendekatan terbaik untuk melindungi masyarakat dari ancaman nyata yang ditimbulkan oleh teknologi. Saya rasa tidak.

Sebaliknya, Newsom mengumumkan bahwa negara bagian tersebut akan bermitra dengan berbagai pakar industri untuk mengembangkan perlindungan model AI yang kuat.

SB 1047 akan mengharuskan perusahaan untuk menguji model mereka dan menerbitkan protokol keselamatan untuk mencegah manipulasi untuk tujuan berbahaya, seperti menyabotase jaringan listrik negara atau membantu membuat senjata kimia. Hal ini mungkin terjadi di masa depan karena industri terus berkembang pesat.

RUU ini juga akan memberikan perlindungan bagi pelapor pelanggaran (whistleblower) bagi pekerja industri.

Senator negara bagian Demokrat Scott Weiner, yang menyusun rancangan undang-undang tersebut, mengatakan veto tersebut dilakukan “karena kepercayaan terhadap pengawasan perusahaan-perusahaan besar yang membuat keputusan penting yang mempengaruhi keselamatan dan kesejahteraan masyarakat dan masa depan planet kita.” Ini merupakan kemunduran bagi semua orang di sana.” ”

“Perusahaan yang mengembangkan sistem AI canggih menyadari bahwa risiko yang ditimbulkan oleh model ini terhadap masyarakat adalah nyata dan meningkat pesat,” katanya dalam sebuah pernyataan. “Laboratorium penelitian AI yang besar melakukan pekerjaan yang mengagumkan dalam memantau dan memitigasi risiko-risiko ini, namun kenyataannya adalah bahwa upaya sukarela yang dilakukan oleh industri tidak dapat dilaksanakan dan upaya masyarakat jarang memberikan hasil yang baik.”

Weiner mengatakan perdebatan seputar RUU tersebut telah membantu menyoroti masalah keamanan AI, dan dia akan terus mendorong langkah-langkah keamanan seputar teknologi ini.

Miliarder teknologi Elon Musk juga mendukung RUU tersebut.

Lebih dari 800 rancangan undang-undang yang tersisa di meja Newsom berbicara tentang masalah regulasi berlebihan di California: pakar

Daripada mengadopsi undang-undang, Newsom mengumumkan bahwa negara bagian tersebut akan bermitra dengan banyak pakar industri untuk mengembangkan perlindungan yang kuat berdasarkan model AI. (Don Campbell/Herald Paladium, melalui AP)

Usulan tersebut merupakan salah satu dari beberapa rancangan undang-undang yang disahkan oleh badan legislatif negara bagian tahun ini yang bertujuan untuk mengatur AI, memerangi deepfake, dan melindungi pekerja. Anggota parlemen negara bagian mengatakan California perlu mengambil tindakan tahun ini, dengan menunjuk pada konsekuensi dari kegagalan mereka dalam mengekang peluang yang mungkin dimiliki perusahaan media sosial.

Pendukung RUU tersebut menginginkan transparansi dan dukungan pada model AI skala besar, karena pengembang dan pakar mengatakan mereka masih belum sepenuhnya memahami cara kerjanya.

RUU tersebut bertujuan untuk mengatasi sistem yang membutuhkan daya komputasi tingkat tinggi dan biaya pembangunan lebih dari $100 juta. Model AI saat ini tidak memenuhi standar tersebut, namun beberapa ahli mengatakan hal itu dapat berubah pada tahun depan.

“Hal ini disebabkan oleh peningkatan investasi besar-besaran dalam industri ini,” mantan peneliti OpenAI Daniel Cocotadillo, yang mengundurkan diri awal tahun ini karena OpenAI mengabaikan risiko AI, mengatakan kepada The Associated Press. “Ini adalah kekuasaan yang sangat besar yang dapat dikendalikan oleh perusahaan swasta tanpa akuntabilitas, dan ini juga sangat berbahaya.”

Para pendukung rancangan undang-undang ini mengatakan AS tertinggal dibandingkan Eropa dalam mengatur teknologi yang berkembang, sehingga meningkatkan kekhawatiran mengenai kehilangan pekerjaan, misinformasi, pelanggaran privasi, dan bias otomatisasi. Meskipun RUU California tidak sekomprehensif peraturan Eropa, para pendukungnya mengatakan bahwa RUU tersebut merupakan langkah ke arah yang benar.

Tahun lalu, beberapa perusahaan AI besar secara sukarela setuju untuk mengikuti tindakan pengamanan yang ditetapkan oleh Gedung Putih, termasuk menguji model dan berbagi informasi. Para pendukung mengatakan RUU California akan mengharuskan pengembang AI untuk mengikuti persyaratan serupa terhadap perlindungan ini.

Namun para pengkritik tindakan tersebut berpendapat bahwa hal itu akan merugikan teknologi dan menghambat inovasi di Negara Emas (Golden State). Kritikus, termasuk Perwakilan Nancy Pelosi (D-Calif.), mengatakan bahwa proposal tersebut akan membuat pengembang AI enggan berinvestasi dalam model skala besar dan berbagi perangkat lunak sumber terbuka.

Dua proposal AI lainnya juga mendapat tentangan dari industri teknologi dan gagal disahkan sebelum batas waktu legislatif bulan lalu. RUU tersebut akan mewajibkan pengembang AI untuk memberi label pada konten yang mereka hasilkan dan melarang diskriminasi oleh alat AI yang digunakan dalam pengambilan keputusan ketenagakerjaan.

Senator California Scott Wiener mengatakan perdebatan seputar RUU tersebut membantu menyoroti masalah keamanan AI. (Scott Wiener)

Anggota parlemen California masih mempertimbangkan peraturan baru yang menentang diskriminasi AI dalam praktik perekrutan.

Gubernur sebelumnya mengatakan dia ingin melindungi posisi Golden State sebagai pemimpin global dalam AI, mengingat bahwa 32 dari 50 perusahaan AI teratas dunia berlokasi di Golden State.

KLIK DI SINI UNTUK MENDAPATKAN APLIKASI FOX NEWS

Newsom mengatakan California adalah negara yang pertama kali mengadopsi AI, dan mengatakan bahwa negara bagian tersebut dapat menggunakan alat AI generatif dalam waktu dekat untuk mengatasi kemacetan jalan raya, memberikan panduan perpajakan, dan menyederhanakan upaya tunawisma.

Awal bulan ini, Newsom menandatangani beberapa undang-undang terberat di AS untuk memerangi kesalahan dalam pemilu dan mengambil langkah-langkah untuk melindungi karyawan Hollywood dari penyalahgunaan AI.

Associated Press berkontribusi pada laporan ini.