OpenAI baru-baru ini melakukan tinjauan keamanan terhadap GPT-4o, yang menemukan bahwa pengguna mode suara ChatGPT dapat “membentuk hubungan sosial dengan AI” dan mencari pertemanan. Temuan ini dipublikasikan sebagai bagian dari laporan tinjauan keamanan bertajuk “Kartu Sistem GPT-4o”, yang menjelaskan pekerjaan keamanan yang dilakukan OpenAI sebelum GPT-4o tersedia untuk masyarakat umum.
Meskipun tantangan keamanan yang diidentifikasi oleh OpenAI mencakup risiko AI yang meniru respons seksual dan kekerasan, menghasilkan konten yang tidak diizinkan atau bias, salah satu risiko terkait menunjukkan bahwa pengguna dapat “menjalin hubungan sosial dengan AI” dan dengan demikian mengurangi kebutuhan manusia. Interaksi.
“Interaksi yang diperluas dengan model ini memanfaatkan norma-norma sosial,” kata perusahaan itu. Namun, risiko dalam laporan tersebut hanya berlaku untuk mode suara canggih baru, yang dapat meniru ucapan manusia dan bahkan menyampaikan emosi. OpenAI mengungkapkan bahwa tim yang bertanggung jawab atas tim merah GPT-4o juga menemukan contoh manusia terhubung dengan chatbot dan membentuk ikatan emosional selama uji coba internal.
Hal ini juga membahas beberapa masalah hak cipta yang mempengaruhi perusahaan dan keseluruhan pengembangan model bahasa yang lebih besar, dan menyatakan bahwa GPT-4o dapat menolak permintaan konten berhak cipta dan menghasilkan keluaran berupa musik.
Meskipun saat ini tidak ada solusi untuk masalah ini selain mengurangi jumlah waktu Anda menggunakan mode suara chatbot, OpenAI mengatakan pihaknya “bermaksud untuk mempelajari lebih lanjut potensi ketergantungan emosional” dan “bagaimana modalitas audio mendorong perilaku.”
