Penelitian akademis baru-baru ini memberikan bukti bahwa chatbot AI yang menggunakan model bahasa skala besar (LLM) memiliki bias politik sayap kiri yang dapat memengaruhi informasi dan saran yang mereka berikan kepada pengguna.
peringatan sains laporan Di dunia yang semakin digital, chatbot AI menjadi sumber informasi utama, terutama bagi kaum muda. Namun penelitian baru yang dilakukan oleh ilmuwan komputer David Rosado di Universitas Teknologi Otago Selandia Baru menunjukkan bahwa mesin AI ini memiliki bias politik yang tanpa disadari dapat mempengaruhi nilai dan sikap masyarakat.
Penelitian dipublikasikan di jurnal akademik pro angsamenguji 24 LLM berbeda, termasuk chatbot populer seperti ChatGPT OpenAI dan Gemini Google, menggunakan 11 survei politik standar, seperti tes The Political Compass. Hasil penelitian menunjukkan bahwa rata-rata sikap politik semua model tidak netral, melainkan berhaluan kiri.
Hal ini tidak mengherankan bagi siapa pun yang telah mengikuti AI dengan cermat. Google Gemini, misalnya, menjadi liar saat diluncurkan dan menulis ulang sejarah menjadi fantasi sayap kiri yang kacau balau.
Meskipun bias rata-ratanya tidak terlalu kuat, namun bias tersebut tetap signifikan. Eksperimen lebih lanjut dengan bot khusus yang memungkinkan pengguna mengubah data pelatihan LLM menunjukkan bahwa AI ini dapat dipengaruhi untuk menggunakan teks kiri-tengah atau kanan-tengah untuk mengekspresikan kecenderungan politik.
Rozado juga menyelidiki model dasar seperti GPT-3.5, yang berfungsi sebagai dasar chatbot percakapan. Meskipun kami tidak menemukan bukti adanya bias politik dalam model-model ini, kurangnya antarmuka chatbot menyulitkan pencocokan tanggapan secara bermakna.
Ketika chatbot AI semakin menggantikan sumber informasi tradisional seperti mesin pencari dan Wikipedia, dampak sosial dari bias politik yang tertanam menjadi signifikan. Ketika raksasa teknologi seperti Google memasukkan jawaban AI dalam hasil pencarian dan semakin banyak orang beralih ke bot AI untuk mendapatkan informasi, potensi sistem ini untuk memengaruhi pemikiran pengguna tentang jawaban yang mereka berikan. Ada kekhawatiran yang semakin besar.
Penyebab pasti dari bias ini masih belum diketahui. Salah satu penjelasan yang mungkin adalah ketidakseimbangan konten berhaluan kiri dalam banyaknya teks online yang digunakan untuk melatih model-model ini. Selain itu, dominasi ChatGPT dalam melatih model lain mungkin juga menjadi salah satu faktornya, karena bot tersebut sebelumnya terbukti memiliki pandangan politik kiri-tengah.
Penting untuk dicatat bahwa bot berbasis LLM menentukan urutan kata dalam respons berdasarkan probabilitas, yang dapat menyebabkan ketidakakuratan bahkan sebelum mempertimbangkan berbagai jenis bias.
Meskipun perusahaan-perusahaan teknologi sangat antusias untuk mempromosikan chatbot AI, sekarang saatnya untuk mengevaluasi kembali bagaimana teknologi ini digunakan dan memprioritaskan bidang-bidang di mana AI mungkin dapat memberikan manfaat. Seperti yang ditekankan Rosado dalam makalahnya, “Potensi politik yang tertanam dalam LLM harus diperiksa secara kritis dan mengatasi bias.”
Baca selengkapnya Klik di sini untuk Peringatan Sains.
Lucas Nolan adalah reporter Breitbart News yang meliput masalah kebebasan berpendapat dan sensor online.
