Klip AI bersifat persuasif – dan memecah belah

Ketika sebuah klip audio yang menunjukkan seorang kepala sekolah setempat melontarkan pernyataan yang meremehkan tersebut muncul, video tersebut menjadi viral secara online, memicu ancaman pembunuhan terhadap sang pendidik dan menimbulkan keributan di pinggiran kota di luar Kota Baltimore. Namun segera terungkap bahwa itu palsu dan dimanipulasi oleh kecerdasan buatan – lalu mengapa orang masih percaya bahwa itu nyata?

“Aku benar-benar tidak mengerti kenapa aku harus terus-menerus menghadapi orang-orang bodoh ini di sini setiap hari.”

Kegaduhan panjang dari kepala sekolah menengah Pikesville yang diselingi oleh kiasan rasis, anti-Semit, dan ofensif pun dimulai. Sepertinya itu direkam secara diam-diam.

Pembicaranya menyesali “anak-anak kulit hitam yang tidak tahu berterima kasih” dan orang-orang Yahudi di komunitasnya.

Klip tersebut, yang pertama kali diposting pada bulan Januari, menjadi viral secara nasional. Namun hal ini benar-benar mengejutkan warga di pinggiran Peeksville yang damai dan rindang, yang memiliki banyak komunitas kulit hitam dan Yahudi, dan di kota terdekat, Baltimore, Maryland. Kepala Sekolah Eric Eiswert telah diberikan cuti administratif berbayar sambil menunggu penyelidikan.

Alfie Malone, seorang pria kulit hitam yang tinggal di dekat Baltimore, memperhatikan anggota komunitasnya yang lain memposting klip tersebut dan menganggapnya nyata.

“Dalam benak Anda, Anda berpikir mungkin itulah perasaan orang-orang terhadap kita,” kata Mr. Malone. “Dan sebenarnya ada audio untuk didengarkan.”

Dalam upaya untuk mengkonfirmasi apa yang didengarnya, Malone memeriksa rekaman asli Eiswert lainnya di media sosial dan hasilnya terdengar serupa.

Jadi tukang pos paruh waktu, podcaster paruh waktu menekan tombol bagikan ulang.

Klip tersebut mulai mendapatkan perhatian di media sosial karena semakin banyak orang yang menyebarkannya secara online. Salah satu versi yang paling banyak dibagikan sedang mencapai dua juta penayangan dalam beberapa jam. Jumlah tersebut sudah lebih dari 60 kali lipat jumlah penduduk Pikesville.

Namun yang tidak diketahui oleh mereka yang membagikan klip tersebut adalah kejutan lain yang akan meledak: klip tersebut adalah video palsu yang dibuat oleh AI.

untuk Radio BBC 4 Mengapa Kamu Membenciku ASSaya berada di Maryland, melihat dampak klip ini terhadap kota tersebut. Hal ini hampir seperti sebuah dongeng tentang bahaya AI, padahal hal ini hampir secara eksklusif ditujukan pada komunitas lokal.

Ketika klip itu mendarat di meja Kristen Griffith, seorang reporter pendidikan di Baltimore Banner, dia mengira itu adalah cerita sederhana tentang seorang guru yang diungkap karena membuat komentar yang menyinggung.

Namun seperti praktik terbaik dalam jurnalisme, Ms Griffith ingin memberikan kesempatan kepada kepala sekolah untuk berkomentar dan menceritakan kisah dari sudut pandangnya. Jadi, dia menghubungi perwakilan serikat pekerjanya, yang tidak hanya membantah komentar Mr. Eiswert, namun mengatakan bahwa dia tidak membuat komentar tersebut.

“Dia langsung berkata, oh, menurut kami itu palsu… kami yakin itu AI,” katanya kepada BBC. “Saya belum pernah mendengar sudut itu” sebelumnya.

Namun ketika dia mempublikasikan penjelasan itu, pembacanya tidak mempercayainya. Selain menimbulkan pertanyaan tentang keakuratan klip tersebut, hal ini juga memicu reaksi balik dari orang-orang yang melihat tuduhan palsu tersebut hanya sebagai alasan atau upaya untuk menghindari akuntabilitas.

Atas perintah ini, polisi setempat mulai menyelidiki kasus tersebut. Staf di SMA Pikesville memberi tahu mereka bahwa segala sesuatunya tidak aman bagi mata mereka, dan mereka khawatir sekolah tersebut telah disadap dengan peralatan perekam.

Reputasi Kepala Sekolah Eiswert juga rusak parah. Bersamaan dengan itu, keamanan di sekitar sekolah ditingkatkan. Ia menjadi sasaran kebencian dan ancaman di media sosial. Saya menemukan lusinan pesan kasar yang ditujukan padanya di media sosial.

Pada bulan April, Kepala Polisi Baltimore Robert McCullough menegaskan bahwa mereka memiliki “bukti yang meyakinkan bahwa rekaman itu tidak asli.”

Dan mereka yakin mereka tahu siapa yang membuat yang palsu.

Polisi telah menuntut Dajon Darien, 31 tahun, direktur atletik sekolah tersebut, dengan beberapa tuduhan sehubungan dengan video palsu tersebut. Tuduhan tersebut mencakup pencurian, pembalasan terhadap saksi, dan penguntitan.

Dia ditangkap di bandara tempat polisi mengatakan dia berencana terbang ke Houston, Texas.

Polisi mengatakan Darian sedang diselidiki oleh Kepala Sekolah Eiswert karena diduga mencuri $1.916 (£1.460) dari sekolah. Mereka juga menuduh ada “tantangan kinerja” dan kontraknya tidak akan diperpanjang.

Teori mereka adalah dengan membuat rekaman deepfake, dia bermaksud mendiskreditkan kepala sekolah sebelum dipecat.

Penyelidik mengatakan mereka menemukan email yang digunakan untuk mengirim video asli ke server yang terhubung dengan Mr. Darien, dan menuduh dia menggunakan jaringan komputer Baltimore County Public Schools untuk mengakses alat AI. Dia dijadwalkan diadili pada Desember 2024.

Perwakilan hukum Darian tidak menanggapi permintaan komentar.

Pengawas Sekolah Baltimore County, Miriam Rogers, sebelumnya mengatakan ini adalah “masa yang sangat sulit” bagi komunitas sekolah, kepala sekolah, dan keluarganya.

Perwakilan Sekolah Menengah Pikesville dan Tuan Eiswert tidak menanggapi permintaan saya untuk memberikan komentar lebih lanjut.

Karena klipnya hanya berupa audio, ini berarti tidak ada imbalan visual seperti gerakan robot yang biasanya mengungkapkan manipulasi AI. Dokumen tersebut juga menyebutkan terminologi seperti “ekspektasi tingkat kelas” dan rincian lainnya seperti nama staf yang hanya diketahui oleh orang-orang yang dekat dengan sekolah.

Jika Anda mendengarkan dengan cermat, ada pengeditan yang jelas di antara kalimat – dan suaranya, meskipun mirip dengan suara utama, terdengar sangat monoton. Kecerdasan buatan dapat menggunakan rekaman nyata selama beberapa menit — aktor favorit Anda dalam film atau kandidat presiden yang sedang berpidato — untuk membuat klip yang membuatnya terdengar seolah-olah mereka mengatakan sesuatu yang tidak pernah mereka katakan.

Tapi Pak Malone mengatakan kepada saya bahwa alasan terbesar orang percaya video itu nyata adalah karena mereka menganggapnya nyata.

Ini menggabungkan pengalaman rasismenya sendiri sebagai pria kulit hitam yang tinggal di Baltimore.

Ketika kepala sekolah menggambarkan siswa kulit hitam Mr. Malone sebagai orang yang malas, hal itu langsung mengingatkannya akan penindasan dan diskriminasi yang dia hadapi di sekolah dan di tempat kerja.

Beberapa bulan kemudian, efek klip audio palsu tersebut masih terasa di Pikesville. Tuan Eiswert telah berganti pekerjaan dan bekerja di sekolah lain. Meskipun beberapa anggota komunitas sekarang mengakui bahwa video tersebut palsu, namun kerugiannya sudah besar.

“Sungguh menyedihkan untuk mengatakan sesuatu yang begitu bergairah tentang lingkungan dan komunitas Yahudi,” kata seorang wanita bernama Sharon kepada saya pada bulan Agustus lalu ketika dia memasukkan kereta dorong bayi cucunya ke dalam mobil di sebuah rumah di seberang sekolah menengah atas.

Selama beberapa menit, Sharon berbicara kepada saya meskipun klip itu nyata.

“Ketika orang mengatakan hal seperti itu, orang lain ikut bergabung dan saya pikir itu semakin membuat saya takut.”

Ketika suaminya menimpali dari mobil, mengingatkannya bahwa klip itu memang palsu, dia mengakui bahwa dia “kemudian mengetahui bahwa itu dibuat oleh AI”. Tapi dia bilang dia masih marah karenanya.

Saya menemukan bahwa bagi orang-orang seperti Sharon yang percaya bahwa klip tersebut nyata, klip tersebut tetap melekat pada mereka untuk sementara waktu – terutama ketika pesan tersebut selaras dengan pengalaman nyata mengenai rasisme dan diskriminasi. Hal ini mengingatkan saya pada sesuatu yang saya dengar berulang kali saat meneliti disinformasi dan teori konspirasi: “Meskipun itu tidak benar, menurut saya itulah yang mereka pikirkan.”

Semua perusahaan media sosial besar mengatakan bahwa mereka memiliki kebijakan untuk memberi label, menghapus, dan membatasi penyebaran postingan yang dibuat oleh AI. Tindakan itu hanya akan terjadi jika klip tersebut terbukti palsu. Saat itu sudah mencapai jutaan.

Alfie Malone mengatakan bahwa pada hari sebelumnya, dia telah berbicara dengan seorang teman yang belum mengetahui bahwa klip tersebut dibuat oleh AI.

“Sejujurnya saya yakin banyak orang di kota ini tidak tahu bahwa hal itu tidak benar,” katanya.

Ia menyesalkan kepala sekolahnya, Eiswert, yang dituduh melontarkan komentar tersebut. Dia juga khawatir bahwa episode tersebut telah merusak pengalaman rasisme yang sebenarnya.

Dia mengatakan dia akan berpikir dua kali sebelum membagikan klip seperti itu lagi.

“Saya pernah terbakar api sekali. Aku tidak akan pernah menyentuh kompor lagi.”