Seorang hakim federal telah mengeluarkan perintah awal yang memblokir penegakan undang-undang California yang baru-baru ini disahkan yang bertujuan untuk membatasi penyebaran deepfake yang dibuat oleh AI yang menggambarkan kandidat politik. “Meskipun ketakutan yang beralasan terhadap lingkungan media yang dimanipulasi secara digital mungkin bisa dibenarkan, ketakutan ini telah memberikan kesempatan kepada anggota parlemen untuk terlibat dalam kritik, parodi, dan tidak memberikan izin untuk campur tangan tanpa batas terhadap tradisi sindiran yang sudah lama ada.” Amandemen Pertama. ”
krisis teknologi laporan Hanya dua minggu setelah Gubernur Gavin Newsom menandatanganinya, ketentuan utama California AB 2839 yang menargetkan AI deepfake telah ditunda oleh pengadilan federal. Undang-undang tersebut akan mengizinkan hakim California untuk memerintahkan individu yang menyebarkan informasi palsu tentang politisi untuk menjatuhkan mereka atau, dalam beberapa kasus, menentukan bahwa informasi palsu tersebut dapat menyesatkan pemilih dan memberikan kewenangan untuk menjatuhkan hukuman.
Dalam putusan yang dikeluarkan minggu ini, Hakim Distrik AS John Mendez memihak penggugat Christopher Coles, yang memposting video deepfake buatan AI yang menggambarkan Wakil Presiden Kamala Harris. Coles mengajukan gugatan yang menantang konstitusionalitas AB 2839, dengan alasan bahwa video palsu Harris dilindungi sebagai sindiran politik berdasarkan Amandemen Pertama.
Dalam keputusannya, Hakim Mendez menyatakan keprihatinannya bahwa bahasa yang digunakan dalam undang-undang California terlalu luas dan subjektif, sehingga berpotensi mencakup “sejumlah besar pidato politik dan yang dilindungi konstitusi.” Dia mencatat bahwa meskipun ada kekhawatiran yang sah bahwa konten digital yang dimanipulasi akan merusak pemilu, hal ini tidak memberikan kebebasan kepada anggota parlemen untuk membatasi kebebasan berpendapat yang secara tradisional dilindungi oleh Amandemen Pertama.
“Meskipun ketakutan yang beralasan terhadap lingkungan media yang dimanipulasi secara digital mungkin bisa dibenarkan, ketakutan ini telah mendorong para legislator untuk menganut tradisi panjang kritik, parodi, dan sindiran yang dilindungi oleh Amandemen Pertama video YouTube, postingan Facebook, dan X-tweet adalah iklan surat kabar dan sindiran politik saat ini, dan Amandemen Pertama tidak memberikan izin untuk kritik tersebut dibuat dalam media baru apa pun. Kami melindungi hak individu untuk berbicara, apa pun keputusan orang tersebut,” kata Mendez dalam keputusan tersebut. Dia mengatakan perangkat hukum lainnya seperti undang-undang privasi, undang-undang hak cipta, dan undang-undang pencemaran nama baik telah memberikan ganti rugi bagi orang-orang yang reputasinya mungkin telah dirusak oleh perubahan penggambaran secara online.
Perintah awal ini akan mencegah Jaksa Agung California Rob Bonta menerapkan ketentuan penghapusan deepfake AB 2839 terhadap Kohl dan pembicara online lainnya, kecuali untuk konten audio palsu. Meskipun mengakui bahwa negara memiliki kepentingan yang kuat dalam menjaga integritas pemilu, Mendez mengatakan dia prihatin dengan pelanggaran Amandemen Pertama yang dialami oleh Coles dan pembuat konten lainnya berdasarkan hukum.
Breitbart News sebelumnya melaporkan bahwa kelompok advokasi kebebasan berpendapat FIRE sangat menentang undang-undang California.
Undang-undang baru California yang menargetkan konten politik yang “menipu” mengancam sindiran, parodi, dan pidato lain yang dilindungi oleh Amandemen Pertama.
AB 2839 melarang pembagian konten yang “menipu” dan dimodifikasi secara digital tentang calon pejabat publik untuk tujuan apa pun. Artinya, membagikan konten semacam itu untuk mengkritik atau menyebutnya palsu mungkin melanggar hukum.
Undang-undang ini juga mewajibkan komedian untuk memberi label satire dan parodi, seperti mewajibkan komedian untuk mengawali setiap lelucon dengan pengumuman bahwa mereka menceritakan sebuah lelucon. Itu tidak lucu, itu menakutkan.
Apa pun kekhawatiran Anda mengenai ekspresi yang dihasilkan AI, melanggar Amandemen Pertama bukanlah cara untuk mengatasinya.
Baca selengkapnya Klik di sini untuk TechCrunch.
Lucas Nolan adalah reporter Breitbart News, yang meliput masalah kebebasan berpendapat dan sensor online.
