Chatbot AI online memungkinkan pengguna menghasilkan foto bugil eksplisit dari orang sungguhan hanya dengan beberapa klik, meningkatkan kewaspadaan di kalangan para ahli tentang “skenario mimpi buruk” yang akan datang.
A penyelidikan terbaru oleh Kabel telah mengungkap tren yang meresahkan pada aplikasi perpesanan Telegram, di mana lusinan chatbot bertenaga AI memungkinkan pengguna membuat gambar dan video telanjang palsu dari hampir semua orang. Bot ini, yang dilaporkan digunakan oleh sekitar 4 juta orang per bulan, diduga dapat menghapus pakaian dari foto yang disediakan atau bahkan menghasilkan konten eksplisit yang menggambarkan individu melakukan aktivitas seksual.
Pakar deepfake Henry Ajder, yang pertama kali menemukan dunia bawah tanah chatbot Telegram empat tahun lalu, menyatakan keprihatinannya atas peningkatan drastis pengguna yang secara aktif membuat dan membagikan konten jenis ini. “Sangat memprihatinkan bahwa alat-alat ini – yang benar-benar menghancurkan kehidupan dan menciptakan skenario yang sangat buruk terutama bagi remaja putri dan perempuan – masih begitu mudah diakses dan ditemukan di web, di salah satu aplikasi terbesar di dunia. dunia,” kata Ajder kepada Wired.
Meskipun selebritas seperti Taylor Swift dan Jenna Ortega telah menjadi korban dari maraknya deepfake pornografi, ada juga laporan baru-baru ini yang menyebutkan gadis-gadis remaja menjadi sasaran, dan beberapa foto telanjang deepfake digunakan dalam kasus “pemerasan seks”. Sebuah survei bahkan mengungkapkan bahwa 40 persen siswa AS melaporkan beredarnya deepfake di sekolah mereka.
Menjamurnya situs-situs deepfake di tengah kemajuan teknologi AI telah mendorong pengawasan ketat dari para anggota parlemen. Pada bulan Agustus, kantor kejaksaan San Francisco menggugat lebih dari selusin situs web yang “melepaskan pakaian”. Saat dihubungi oleh Kabel mengenai konten chatbot eksplisit di Telegram, perusahaan tidak menanggapi, namun bot dan saluran terkait tiba-tiba menghilang, meskipun pembuatnya bersumpah untuk “membuat bot lain” keesokan harinya.
Emma Pickering, kepala pelecehan dan pemberdayaan ekonomi yang difasilitasi teknologi di organisasi kekerasan dalam rumah tangga yang berbasis di Inggris, Refuge, menekankan dampak psikologis yang dapat ditimbulkan oleh gambar-gambar palsu ini, yang menyebabkan trauma, penghinaan, ketakutan, rasa malu, dan rasa malu. Dia mencatat bahwa meskipun bentuk pelecehan ini semakin umum terjadi dalam hubungan intim, pelakunya jarang dimintai pertanggungjawaban.
Baca selengkapnya di Kabel Di Sini.
Lucas Nolan adalah reporter Breitbart News yang meliput isu kebebasan berpendapat dan sensor online.
