Presiden Trump memposting deepfake Swift, Harris dan Musk selama kampanye pemilu |

Donald Trump pada hari Minggu membagikan beberapa gambar Taylor Swift dan para penggemarnya yang dibuat oleh AI yang menjanjikan dukungan mereka untuk pemilihan presiden, memposting ulang gambar tersebut dengan teks, “Saya menerima!” di platform Truth Social miliknya. Deepfake tersebut adalah bagian dari serangkaian gambar yang dihasilkan oleh kecerdasan buatan yang disebarkan oleh mantan presiden tersebut dalam beberapa hari terakhir yang berada di antara parodi dan disinformasi pemilu.

Gambar yang dibuat oleh AI yang dibagikan oleh Presiden Trump pada akhir pekan menunjukkan wanita-wanita muda yang tersenyum mengenakan kaus bertuliskan “Swifties for Trump”, serta Swift yang berpakaian seperti Paman Sam meneriaki orang-orang calon presiden. Setiap gambar adalah tangkapan layar X, yang sebelumnya dikenal sebagai Twitter, dan awalnya diposting oleh akun sayap kanan yang memiliki riwayat berbagi informasi yang salah. Swift tidak mendukung Trump.

Postingan Trump juga menyertakan gambar Kamala Harris yang dibuat oleh AI yang mengadakan rapat umum militer komunis di Konvensi Nasional Partai Demokrat dan video deepfake saat dia berdansa dengan pemilik X Elon Musk, yang mendukungnya. Penggunaan citra yang dihasilkan oleh AI oleh Presiden Trump mengancam akan semakin mengaburkan ekosistem informasi yang sudah suram seputar pemilihan presiden tahun 2024. Mantan presiden tersebut rutin menyebarkan kebohongan dan teori konspirasi.

Kekhawatiran bahwa konten yang dihasilkan oleh AI dapat mempengaruhi pemilu masih terus berlanjut selama booming kecerdasan buatan generatif baru-baru ini, dan para peneliti telah lama menduga bahwa teknologi tersebut dapat memfasilitasi kampanye disinformasi dan melemahkan platform online. Misinformasi yang disebabkan oleh AI menyebar terutama di seputar pemilu di seluruh duniakarena video dan gambar digunakan untuk menjebak lawan, memalsukan dukungan, dan membuat audio palsu yang bertujuan untuk merugikan kandidat.

Presiden Trump membagikan gambar yang dihasilkan AI minggu lalu, tetapi juga secara keliru mengklaim bahwa gambar sebenarnya dari rapat umum Harris adalah hasil dari kecerdasan buatan dan bahwa peristiwa yang terdokumentasi dengan baik tidak pernah terjadi. Klaimnya mencerminkan konsep yang oleh para peneliti disinformasi disebut sebagai “keuntungan pembohong”, yang mana peningkatan konten yang dimanipulasi telah menimbulkan skeptisisme umum di semua media, dan di mana orang-orang seperti politisi menggunakan gambar, audio, dan gambar nyata. dan video dapat dengan mudah diabaikan karena dianggap palsu.

Meskipun sebagian besar pembuat gambar AI dari industri besar seperti OpenAI dan Microsoft membatasi apa yang dapat mereka buat, melarang gambar tokoh masyarakat dan menolak permintaan untuk gambar politik, beberapa pengguna telah menemukan solusi untuk beberapa model AI atau mengandalkan model AI lain yang tidak memiliki hal tersebut. kemampuan. Langkah-langkah keamanan. Generator gambar Grok milik Musk, yang memulai debutnya minggu lalu, dapat membuat berbagai gambar berdasarkan permintaan yang ditolak oleh alat serupa, sehingga menyebabkan lonjakan konten AI terkait pemilu baru-baru ini. Ini termasuk gambar pemimpin politik, selebritas, karya berhak cipta, dan bahkan konten seksual dan kekerasan.

Tak lama setelah Musk merilis generator gambar AI Grok, gambar deepfake Trump dan Harris menjadi viral di X. Sejumlah outlet berita juga melaporkan bahwa alat tersebut berpotensi membuat gambar Swift, mengingat perusahaan AI menghadapi reaksi keras atas deepfake seksual pada awal tahun ini. Hal ini sangat luar biasa sehingga kata-kata bintang pop tersebut tersebar luas di media sosial. Swift belum mendukung calon presiden mana pun, namun pada tahun 2020 ia mengkritik keras Trump karena “mengipasi api supremasi kulit putih” dan bersumpah untuk memecatnya dari jabatannya.

Kelompok Partai Republik lainnya juga mencoba membagikan gambar yang dihasilkan AI pada musim pemilu ini, termasuk kampanye Ron DeSantis saat ia gagal dalam pencalonan calon Partai Republik. Kampanye Gubernur Florida membagikan gambar palsu Foto Trump memeluk Anthony Fauci, yang sering menjadi sasaran serangan konservatif. Komite Nasional Partai Republik juga menimbulkan kontroversi tahun lalu ketika mengumumkan beberapa kebijakan. AI dihasilkan Serang iklan yang menentang Joe Biden. Ini menggambarkan adegan neraka setelah meraih kemenangan dalam pemilu.