Rusia memanfaatkan kecerdasan buatan generatif dalam kampanye penipuan online namun tidak membuahkan hasil, menurut laporan MetaSecurity yang dirilis Kamis.
Perusahaan induk Facebook dan Instagram telah menemukan bahwa sejauh ini, taktik yang didukung AI “hanya menawarkan peningkatan produktivitas dan keuntungan pembuatan konten” bagi pelaku kejahatan, dan meta telah dikaitkan dengan efek yang menipu dan mampu menggagalkan operasi militer.
Upaya Meta untuk memerangi “penipuan sistematis” pada platformnya menimbulkan kekhawatiran bahwa AI generatif dapat digunakan untuk menipu atau membingungkan masyarakat dalam pemilu di AS dan negara-negara lain. Hal ini dimulai ketika situasi semakin meningkat.
Kepala kebijakan keamanan Meta, David Agranovich, mengatakan kepada wartawan bahwa Rusia masih menjadi sumber terbesar “penipuan terkoordinasi” yang menggunakan akun Facebook dan Instagram palsu.
Sejak Rusia menginvasi Ukraina pada tahun 2022, upaya-upaya ini terfokus pada melemahkan Ukraina dan sekutunya, kata laporan itu.
Ketika pemilu AS semakin dekat, Mehta memperkirakan kampanye penipuan online yang didukung Rusia akan menyerang kandidat politik yang mendukung Ukraina.
Facebook telah lama dituduh digunakan sebagai platform yang kuat untuk disinformasi pemilu. Agen Rusia telah menggunakan Facebook dan media sosial lainnya yang berbasis di AS untuk mengobarkan ketegangan politik dalam beberapa pemilu AS, termasuk pemilu tahun 2016 yang dimenangkan oleh Donald Trump.
Para ahli dapat dengan mudah membuat konten sesuai permintaan dalam hitungan detik menggunakan alat AI generatif seperti ChatGPT dan generator gambar Dall-E, yang mengakibatkan banjir informasi yang salah yang belum pernah terjadi sebelumnya dari pelaku kejahatan di jejaring sosial.
Menurut laporan tersebut, AI digunakan untuk membuat gambar dan video, menerjemahkan dan menghasilkan teks, dan bahkan membuat artikel dan ringkasan berita palsu.
Saat meta mencari penipuan, kami melihat bagaimana akun bertindak, bukan konten yang mereka posting.
Setelah promosi buletin
Kampanye pengaruh cenderung menjangkau berbagai platform online, dan Mehta memperhatikan bahwa postingan di X (sebelumnya Twitter) digunakan untuk memberikan kredibilitas pada konten palsu. Meta berbagi temuannya dengan X dan perusahaan internet lainnya, dengan alasan bahwa pertahanan yang terkoordinasi diperlukan untuk menghentikan misinformasi.
“Sejauh menyangkut Twitter (X), mereka masih dalam masa transisi,” kata Agranovich ketika ditanya apakah Meta menganggap X bertindak berdasarkan petunjuk penipuan. “Banyak orang yang pernah berurusan dengan kami di sana di masa lalu telah pergi.”
X membubarkan tim kepercayaan dan keamanannya, mengurangi upaya moderasi konten yang pernah digunakan untuk menjinakkan misinformasi, dan menjadi apa yang oleh para peneliti disebut sebagai tempat berkembang biaknya disinformasi.
