OpenAI mengumumkan pada hari Jumat bahwa mereka telah menghapus akun kelompok Iran karena menggunakan chatbot ChatGPT untuk menghasilkan konten yang bertujuan mempengaruhi pemilihan presiden AS dan isu-isu lainnya.
Operasi tersebut, yang diidentifikasi sebagai Storm-2035, menggunakan ChatGPT untuk menghasilkan konten yang berfokus pada topik seperti komentar terhadap kedua kandidat dalam pemilu AS, konflik di Jalur Gaza, dan kehadiran Israel di Olimpiade, yang dibagikan melalui akun media sosial mereka. Buka AI mengatakan:
Penelitian yang dilakukan oleh perusahaan AI yang didukung Microsoft menemukan bahwa ChatGPT digunakan untuk menghasilkan artikel panjang dan komentar pendek di media sosial.
OpenAI mengatakan operasi tersebut tampaknya tidak menghasilkan keterlibatan penonton yang berarti.
Mayoritas postingan media sosial yang teridentifikasi hanya menerima sedikit atau tidak ada suka, pembagian, atau komentar, dan perusahaan tidak melihat indikasi bahwa artikel web tersebut dibagikan ke media sosial.
Akun-akun ini telah dilarang menggunakan layanan OpenAI, dan perusahaan terus memantau segala upaya untuk melanggar kebijakannya.
Pada awal Agustus, laporan intelijen ancaman Microsoft mengungkapkan bahwa Storm-2035, jaringan Iran yang terdiri dari empat situs web yang menyamar sebagai organisasi berita, secara aktif menargetkan kelompok pemilih AS dari spektrum politik yang berlawanan.
Upaya ini dibangun berdasarkan “pesan-pesan polarisasi mengenai isu-isu seperti calon presiden AS, hak-hak LGBTQ, dan konflik antara Israel dan Hamas,” kata laporan itu.
Menjelang pemilihan presiden tanggal 5 November, kandidat dari Partai Demokrat Kamala Harris dan saingannya dari Partai Republik Donald Trump bersaing ketat.
Pada bulan Mei, perusahaan AI mengumumkan telah menggagalkan lima operasi pengaruh rahasia yang mencoba menggunakan modelnya untuk “aktivitas penipuan” di internet.
