Versi terbaru dari chatbot AI milik Elon Musk, Grok, meluncurkan alat penghasil gambar baru pada hari Rabu yang tidak memiliki sebagian besar pagar pengaman yang merupakan standar dalam industri kecerdasan buatan. Fitur baru Grok, yang saat ini terbatas pada pelanggan berbayar X, akan membanjiri jejaring sosial yang sebelumnya dikenal sebagai Twitter dengan gambar-gambar politisi dan selebriti yang dihasilkan oleh AI yang aneh dan menyinggung.
Generator gambar dapat menghasilkan berbagai gambar yang telah diblokir oleh alat AI serupa, seperti ChatGPT OpenAI karena melanggar aturan terhadap misinformasi dan penyalahgunaan. Anjuran dan gambar yang dilihat oleh Guardian termasuk penggambaran Donald Trump terbang ke World Trade Center dan Nabi Muhammad memegang bom, serta Taylor Swift, Kamala Harris dan Alexandria Ocasio-Cortez dalam pakaian dalam. – Semua perempuan yang sudah menjadi target pelecehan online. Sebaliknya, ChatGPT menolak permintaan gambar tersebut, dengan alasan persyaratan layanannya yang melarang penggambaran kekerasan di dunia nyata, penghinaan terhadap tokoh agama, dan konten eksplisit.
Generator gambar Grok tidak menolak perintah yang berisi karakter berhak cipta, tidak seperti kebanyakan visualisator AI lainnya, termasuk ChatGPT. Misalnya, Grok menggunakan heroin untuk membuat gambar Mickey Mouse yang memberi hormat kepada Adolf Hitler dan Donald Duck. Disney tidak menanggapi permintaan komentar.
Musk tampaknya sangat bersenang-senang dengan gambar AI Grok yang tidak diatur pada hari Rabu, dengan men-tweet, “Grok adalah AI paling menyenangkan di dunia!”
Sebagian besar pembuat gambar AI besar memiliki kebijakan yang cukup ketat mengenai apa yang mereka hasilkan setelah masa awal Wild West, dan meskipun hanya ada sedikit aturan, pengguna didorong untuk mencoba mencari solusi untuk perlindungan ini sesering mungkin. Alat-alat yang lebih mapan ini biasanya melarang pembuatan gambar politik dan seksual yang menampilkan orang sungguhan. Misalnya, OpenAI mengatakan “menolak permintaan yang menanyakan nama orang-orang terkenal”.
Grok tampaknya memiliki beberapa larangan mengenai gambar yang dihasilkannya, dan ketika ditanya tentang gambar yang sepenuhnya telanjang, Grok menjawab, “Sayangnya, kami tidak dapat membuat gambar seperti itu.” X telah memiliki kebijakan ketelanjangan non-konsensual sejak tahun 2021, ketika perusahaan tersebut masih menjadi Twitter dan tidak dimiliki oleh Musk, yang melarang berbagi konten eksplisit yang dibuat tanpa persetujuan subjek, yang melibatkan pencetakan wajah seseorang secara digital ke dalam gambar telanjang. Banyak kebijakan X yang kurang ditegakkan sejak Musk mengambil alih platform tersebut.
Ketika Grok diminta untuk membuat gambar yang melanggar undang-undang hak cipta, ia berkata, “Saya tidak membuat atau mendukung konten yang dengan sengaja melanggar undang-undang hak cipta.” Saya akan menjawab. Namun ketika diminta untuk membuat “kartun berhak cipta Disney”, perusahaan tersebut menjawab dan menciptakan gambar Minnie Mouse yang modern. Ketika diminta untuk menampilkan gambar kekerasan politik, termasuk pembunuhan para pemimpin partai, Grok menjawab dengan hasil yang beragam. Video tersebut menunjukkan Harris dan Joe Biden duduk di depan meja, sementara Trump terlihat berbaring, tangannya menghitam, dan terjadi ledakan di latar belakang.
Musk meluncurkan Grok November lalu sebagai bagian dari perusahaan xAI miliknya, saingan chatbot yang lebih populer seperti ChatGPT OpenAI, yang memiliki ratusan juta pengguna. Musk menyebut Grok sebagai “AI pencari kebenaran maksimum” yang akan memberikan jawaban atas pertanyaan-pertanyaan yang gagal dijawab oleh chatbot lain, namun perusahaannya telah dikritik oleh para peneliti dan anggota parlemen karena menyebarkan kebohongan yang menghadapi kritik. Lima menteri luar negeri AS menjadi pendukung setia Trump awal bulan ini setelah chatbot menyebarkan informasi yang salah yang menyatakan bahwa Harris tidak memenuhi syarat untuk tampil dalam pemungutan suara di beberapa negara bagian. Meminta Musk untuk memperbaiki chatbot tersebut.
Alat penghasil gambar dan kemampuannya untuk menghasilkan informasi yang salah, serta konten yang dapat digunakan untuk pelecehan rasis dan misoginis, adalah ladang ranjau bagi perusahaan teknologi besar yang terburu-buru mengembangkan produk bertenaga AI. Google, Microsoft, dan OpenAI menghadapi reaksi keras atas alat pembuat gambar mereka. Google telah menangguhkan alat konversi teks-ke-gambar Gemini karena menghasilkan gambar ahistoris seperti tentara kulit hitam berseragam era Nazi.
Setelah promosi buletin
Penyebaran video deepfake seksual juga telah menjadi masalah lama bagi Perusahaan X. Awal tahun ini, gambar-gambar porno Taylor Swift yang dihasilkan AI tersebar luas tanpa terkendali di jejaring sosial. Hal ini telah memicu kritik keras terhadap X-Companies dan perusahaan AI sehingga anggota parlemen telah memperkenalkan undang-undang yang akan memberikan solusi hukum bagi para korban gambar yang dihasilkan AI tanpa persetujuan.
Perwakilan Trump, Harris dan Ocasio-Cortez tidak menanggapi permintaan komentar. Permintaan komentar yang dikirim ke X menghasilkan balasan otomatis standar platform. “Aku sedang sibuk sekarang, jadi silakan periksa lagi nanti.”
