Rencana OpenAI untuk menjadi perusahaan komersial dapat mendorong perusahaan rintisan (startup) kecerdasan buatan untuk mengambil jalan pintas dalam hal keselamatan, seorang pengungkap fakta (whistleblower) memperingatkan.
William Saunders, mantan insinyur riset di OpenAI, mengatakan kepada Guardian bahwa dia prihatin dengan laporan bahwa pengembang ChatGPT sedang bersiap untuk mengubah struktur perusahaannya dan tidak lagi dikendalikan oleh dewan nirlaba.
Sanders menyatakan keprihatinannya Kesaksian di hadapan Senat AS Dia juga menyatakan keprihatinannya bulan ini atas laporan bahwa Kepala Eksekutif OpenAI Sam Altman mungkin memiliki saham dalam bisnis yang direstrukturisasi tersebut.
“Kekhawatiran terbesar saya adalah dampaknya terhadap tata kelola keputusan keselamatan di OpenAI,” katanya. “Jika dewan nirlaba kehilangan kendali atas keputusan ini dan Sam Altman memiliki saham yang besar, akan ada lebih banyak insentif untuk bersaing dan mengambil jalan pintas.”
OpenAI didirikan sebagai organisasi nirlaba. piagamnya Perusahaan ini berupaya membangun kecerdasan umum buatan (AGI), yang digambarkan oleh perusahaan sebagai “sistem yang umumnya lebih pintar dari manusia”, untuk memberi manfaat bagi “seluruh umat manusia”. Namun potensi kekuatan sistem AGI telah membuat para ahli dan ahli, termasuk Sanders, berada di tengah kekhawatiran bahwa perlombaan untuk mengembangkan teknologi tersebut dapat menimbulkan masalah keselamatan yang lebih besar.
Sanders mengatakan dalam kesaksian tertulisnya kepada Senat bahwa ia telah mengundurkan diri dari perusahaan tersebut. Karena dia “kehilangan kepercayaannya” Kami berharap OpenAI akan membuat keputusan yang bertanggung jawab mengenai AGI. Pak Saunders adalah anggota staf di tim Super Alignment OpenAI. Tim yang kini sudah dibubarkan ini bertugas memastikan sistem AI yang kuat mematuhi nilai-nilai dan tujuan kemanusiaan.
Kini, kata Sanders, pindah ke organisasi nirlaba dapat merusak tujuannya. struktur Saat ini, OpenAI memiliki entitas nirlaba yang membatasi keuntungan bagi investor dan karyawan. Semua keuntungan yang dihasilkan di atas batas tersebut dikembalikan ke organisasi nirlaba demi “kepentingan kemanusiaan.”
Saunders mengatakan perusahaan yang murni mencari keuntungan mungkin tidak dapat mengembalikan keuntungannya kepada masyarakat jika, misalnya, mereka mengembangkan teknologi yang menghilangkan banyak lapangan kerja.
“OpenAI seharusnya hanya memberikan keuntungan terbatas kepada investor dan karyawan, dan sisanya diberikan kepada organisasi nirlaba,” katanya. “Jika OpenAI mengembangkan teknologi AI yang akan menyebabkan pengangguran massal, mereka tidak hanya akan mengantongi keuntungan tetapi juga memberikannya kembali kepada masyarakat. Hal ini menunjukkan bahwa hal tersebut tidak terjadi.”
OpenAI telah dihubungi untuk memberikan komentar. Piagam perusahaan menyatakan bahwa perusahaan “berkomitmen untuk melakukan penelitian yang diperlukan untuk membuat AGI aman,” dan baru-baru ini Komite Keselamatan dan Keamanan adalah organisasi independentermasuk Altman juga mengundurkan diri sebagai salah satu anggota.
Setelah promosi buletin
OpenAI dilaporkan sedang mempertimbangkan untuk melakukan reorganisasi menjadi perusahaan kepentingan publik tanpa batasan keuntungan dan perusahaan yang berkomitmen untuk memberikan dampak positif bagi masyarakat. Reuters juga melaporkan minggu ini bahwa sebuah kelompok nirlaba akan memiliki saham di usaha baru tersebut.
OpenAI menolak mengomentari rincian restrukturisasi tersebut, namun mengatakan organisasi nirlaba tersebut akan tetap ada. Dalam sebuah pernyataan yang dirilis Kamis, Ketua OpenAI Brett Taylor mengatakan dewan direksi mendiskusikan pemberian Altman saham dalam bisnis tersebut, namun tidak ada jumlah spesifik yang dibahas. Altman dilaporkan dapat diberikan 7% saham di OpenAI, yang sedang mencari investasi sebesar $6,5 miliar dalam pembiayaan tersebut, yang akan memberi nilai bagi perusahaan sebesar $150 miliar.
“Meskipun dewan telah membahas apakah memberikan kompensasi kepada Sam dengan saham akan bermanfaat bagi perusahaan dan misi kami, jumlah spesifiknya belum dibahas dan belum ada keputusan yang diambil.”
