Pertama, pengawas keamanan siber pemerintah AS telah menunjuk seorang kepala AI untuk mengidentifikasi dan mengatasi ancaman siber yang ditimbulkan oleh AI, sekaligus secara aman mengintegrasikan alat-alat tersebut dengan infrastruktur penting seperti jaringan listrik, sistem pengelolaan air, dan bank.
Lisa Einstein ditunjuk sebagai kepala AI untuk Badan Keamanan Siber & Infrastruktur AS (CISA), yang berada di bawah Departemen Keamanan Dalam Negeri.
“Kita hanya akan memperoleh manfaat dari AI jika kita bekerja sama untuk memprioritaskan keselamatan, keamanan, dan keandalan, serta mencegah kerugian akibat kegagalan atau penyalahgunaannya. Saya merasa terhormat bisa bekerja dengan tim CISA yang berdedikasi dan berbakat untuk mengatasi tantangan penting ini,” kata Einstein setelah membuat pengumuman.
Posisi baru Einstein ini sejalan dengan arahan Gedung Putih yang mewajibkan semua lembaga pemerintah menunjuk pegawai senior untuk mengawasi sistem AI mereka. Badan-badan pemerintah AS juga diwajibkan untuk membentuk dewan tata kelola AI dan menyerahkan laporan tahunan yang merinci sistem AI mereka.
Siapa Lisa Einstein?
Einstein sebelumnya bekerja di lembaga think tank dan menjadi penasihat CISA dalam mengelola ancaman AI di bidang keamanan siber, menurut sebuah laporan. aksio. Dia berperan dalam menciptakan peta jalan AI untuk lembaga tersebut dan baru-baru ini memimpin program percontohan untuk mengevaluasi kemampuan alat keamanan siber AI dalam mendeteksi kerentanan perangkat lunak.
“Penggunaan terbaik AI untuk mendeteksi kerentanan adalah untuk melengkapi dan meningkatkan, bukan menggantikan, alat yang sudah ada,” temuan CISA setelah proyek percontohan. Hal ini juga menegaskan bahwa alat AI terkadang tidak dapat diprediksi sehingga sulit untuk dipecahkan.
Einstein juga dipuji karena menjembatani kesenjangan antara pemerintah dan perusahaan teknologi dengan baru-baru ini menciptakan permainan berdurasi empat jam di mana Microsoft, Nvidia, dan 50 perusahaan lainnya harus merespons skenario insiden keamanan AI.
Penunjukan kepala AI CISA terjadi di tengah meningkatnya kekhawatiran mengenai risiko keamanan akibat pesatnya adopsi model bahasa besar (LLM) dan alat AI lainnya.
“Kalau dipikir-pikir, teknologi paling kuat di abad lalu bisa dibilang adalah senjata nuklir. Teknologi paling kuat di abad ini adalah kecerdasan buatan,” kata Direktur CISA Jen Easterly tahun lalu.
“Senjata nuklir dibuat oleh pemerintah yang mempunyai insentif untuk menjaga keamanannya. Insentif bagi mereka yang mengembangkan AI adalah maksimalisasi keuntungan dan persaingan bisnis,” katanya.
