Kantor Kejaksaan Kota San Francisco telah mengajukan gugatan terhadap 16 situs web “melepaskan pakaian” bertenaga AI yang paling banyak dikunjungi karena melanggar undang-undang negara bagian dan federal yang melarang pornografi balas dendam, pornografi deepfake, dan pornografi anak.
Tepi laporan Untuk memerangi tren gambar telanjang yang dihasilkan AI tanpa persetujuan, Jaksa Kota San Francisco David Chiu mengumumkan inisiatif inovatif yang menargetkan 16 situs web “melepaskan pakaian” AI yang paling sering diakses dan mengumumkan tuntutan hukum. Situs-situs ini, yang menggunakan kecerdasan buatan untuk membuat gambar telanjang palsu dari orang sungguhan tanpa persetujuan mereka, memiliki total lebih dari 200 juta kunjungan pada paruh pertama tahun 2024 saja.
Gugatan tersebut, yang diajukan oleh Kantor Kejaksaan Kota San Francisco, menuduh operator situs web tersebut melanggar berbagai undang-undang negara bagian dan federal, termasuk undang-undang yang melarang pornografi balas dendam, pornografi deepfake, dan pornografi anak. Keluhan tersebut lebih lanjut menyatakan bahwa situs-situs ini melanggar Undang-Undang Persaingan Tidak Sehat California dan bahwa kerugian yang ditimbulkan terhadap konsumen jauh lebih besar daripada potensi manfaat yang terkait dengan tindakan mereka.
Situs web yang ditargetkan menggunakan alat AI canggih yang memungkinkan pengguna mengunggah gambar orang berpakaian, yang dimanipulasi secara digital untuk menyimulasikan ketelanjangan. Sebuah situs web anonim membual dalam materi pemasarannya bahwa mereka mengabaikan kebutuhan untuk berkencan, bahkan menyarankan agar pengguna cukup membuat gambar telanjang dari orang yang mereka cintai.
Gugatan ini muncul di tengah meningkatnya kekhawatiran mengenai prevalensi teknologi deepfake dan potensi penyalahgunaannya. Insiden baru-baru ini di mana selebritas seperti Taylor Swift menjadi korban deepfake yang eksplisit secara seksual telah membuat masalah ini menjadi sorotan. Selain itu, ada laporan yang mengkhawatirkan tentang anak-anak sekolah yang akan dikeluarkan atau ditangkap karena menyebarkan foto telanjang teman sekelas mereka yang dibuat dengan AI.
Selain menuntut hukuman perdata, gugatan tersebut juga bertujuan untuk menutup situs-situs tersebut secara permanen dan mencegah operatornya terlibat dalam produksi pornografi deepfake di masa mendatang. Jaksa Kota Chiu menyatakan kengeriannya atas pelanggaran yang dimungkinkan oleh teknologi ini, dan mengatakan bahwa penyelidikan tersebut mengarah ke “sudut paling gelap di internet.”
Tantangan hukum yang ditimbulkan oleh San Francisco menyoroti titik temu yang kompleks antara teknologi, privasi, dan persetujuan di era digital. Seiring dengan kemajuan teknologi AI, kemampuan untuk membuat gambar palsu yang meyakinkan menimbulkan pertanyaan etika dan hukum yang signifikan. Gugatan ini merupakan salah satu upaya hukum paling komprehensif hingga saat ini untuk mengatasi masalah pornografi deepfake non-konsensual.
Pakar hak digital dan keamanan online telah lama memperingatkan tentang potensi penggunaan AI untuk membuat dan menyebarkan gambar intim tanpa persetujuan. Kemudahan dalam mengoperasikan situs-situs “melepaskan pakaian” ini telah menyebabkan meningkatnya laporan “pemerasan seks” dan bentuk-bentuk pelecehan digital lainnya. Gugatan ini bertujuan untuk menetapkan preseden dalam meminta pertanggungjawaban pencipta dan operator teknologi tersebut atas dampaknya terhadap individu dan masyarakat.
Baca selengkapnya Ambang di sini.
Lucas Nolan adalah reporter Breitbart News yang meliput masalah kebebasan berpendapat dan sensor online.
