WApakah Anda memikirkan topi ketika Anda memikirkan kiamat AI yang akan datang? Jika Anda menyukai klise film fiksi ilmiah, Anda pasti tahu tentang robot pembunuh (dengan atau tanpa aksen Austria yang kental) yang datang untuk melenyapkan pencipta mereka yang arogan bayangkan diri Anda berdiri. Atau mungkin, matrikskita pergi ke mesin menakutkan yang menyedot energi dari tubuh kita sambil mengalihkan perhatian kita dengan simulasi realitas.
Bagi Yuval Noah Harari, yang selama satu dekade terakhir mengkhawatirkan AI, ancaman tersebut tidak terlalu besar dan lebih berbahaya. “Anda tidak perlu menghubungkan otak Anda secara fisik ke komputer untuk mengendalikan orang,” tulisnya dalam buku barunya yang menarik. perhubungan. “Selama ribuan tahun, para nabi, penyair, dan politisi telah menggunakan bahasa untuk memanipulasi dan membentuk kembali masyarakat. Kini komputer telah belajar bagaimana melakukan hal tersebut. Tidak perlu mengirimkan robot pembunuh ke dunia; pemicu.”
Bahasa, dan kemampuan manusia untuk merangkainya menjadi benang-benang besar yang mengelilingi planet ini, adalah cara seorang sejarawan Israel, yang saat ini menerbitkan buku sains populernya yang keempat, memahami spesies kita dan kerentanannya. Pada megahit tahun 2014, sapiens ((Pertama kali diterbitkan dalam bahasa Ibrani pada tahun 2011), ia mengatakan manusia menjadi dominan karena mereka belajar bekerja sama dalam jumlah besar, berkat bakat baru mereka dalam bercerita. Kecerdasan yang membuat nenek moyang kita percaya pada hal-hal yang sepenuhnya khayalan merupakan akar dari agama, perekonomian, dan bangsa kita, dan bahwa kemampuan kita untuk merangkai cerita entah bagaimana dimatikan.
Sejarah lengkap sapiens telah terjual 25 juta eksemplar hingga saat ini, sebuah bukti bakat bercerita Harari sendiri, namun juga mendapat banyak pencela. Para sarjana mempertanyakan keakuratannya dan gagasan menjejalkan 70.000 tahun sejarah manusia ke dalam 450 halaman. Komedi situasi ini mengolok-olok para penggemar berat Harari yang menganggap buku itu seperti Alkitab zaman modern. pesona Sejarah lengkap sapiens Meski jangkauannya memusingkan, 2020 warga New York profil Dia menunjukkan bahwa pendekatan Harari yang fokusnya sempit berdampak pada meremehkan pentingnya peristiwa-peristiwa terkini.
perhubungan Hal ini juga dapat dianggap sebagai teguran atas kritik tersebut. Meskipun kita telah bergerak bolak-balik melintasi waktu dan antar benua dengan kecepatan sangat tinggi selama ribuan tahun, kita sangat prihatin dengan apa yang terjadi saat ini.
Jika sebuah cerita menjadi dasar skema berikut: Sejarah lengkap sapiensdi sini jaringan informasi adalah segalanya, dan Harari melihatnya sebagai struktur fundamental yang menopang masyarakat kita. “Kekuasaan selalu muncul dari kerja sama antara sejumlah besar orang,” tulisnya, dan “perekat” yang menyatukan jaringan kerja sama ini adalah informasi, dan “banyak filsuf dan ahli biologi” percaya bahwa informasi adalah “yang sebenarnya dianggap sebagai hal yang paling mendasar.” blok bangunan.
Namun informasi tidak dapat diandalkan untuk memberi tahu kita kebenaran tentang dunia. Lebih sering, Harari menekankan, hal ini menimbulkan fiksi, fantasi, dan delusi massal yang mengarah pada perkembangan bencana seperti Nazisme dan Stalinisme. Mengapa? orang bijakjadi selamanya merusak diri sendiri meskipun evolusinya sukses? Menurut Harari, “Masalahnya bukan pada sifat manusia, tetapi pada jaringan informasi.”
Melihat bagaimana informasi telah menyesatkan kita di masa lalu, Harari punya banyak contoh yang bisa diambil. Salah satu kenangan saya yang paling tragis adalah palu penyihirditulis oleh biksu Dominika Heinrich Kramer di Austria pada tahun 1480-an. Buku ini, panduan untuk mengungkap dan membunuh penyihir dengan cara yang sangat mengerikan, tidak akan pernah menyebar jauh jika mesin cetak tidak ditemukan beberapa dekade sebelumnya. Alhasil, ide-ide gila Kramer pun menyebar ke seluruh Eropa hingga memicu hiruk-pikuk perburuan penyihir.
Argumen dasar Harari adalah bahwa revolusi informasi bisa saja mengantarkan pada periode kemakmuran manusia, namun hal ini akan selalu ada konsekuensinya. Saat kita menemukan teknologi baru yang cemerlang yang membawa kata-kata dan ide lebih jauh dan lebih cepat dibandingkan sebelumnya, banyak informasi yang disebarkan adalah sampah atau berbahaya. Juga tidak membantu bahwa fiksi cenderung lebih dapat diandalkan dan mengikat daripada kebenaran dalam hal menjaga ketertiban sosial.
Hal yang menakutkan tentang revolusi AI bukan hanya kita akan dibanjiri dengan informasi yang salah dari chatbot atau orang-orang berkuasa akan menggunakannya untuk memproses data dari kehidupan pribadi kita. Berbeda dengan teknologi sebelumnya seperti buku dan radio, Harari menulis: “AI adalah alat pertama yang dapat membuat keputusan sendiri dan menghasilkan ide.” Peringatan awal mengenai hal ini terlihat di Myanmar pada tahun 2016-2017. Saat itulah algoritma Facebook, yang bertugas memaksimalkan keterlibatan pengguna, merespons: mempromosikan propaganda anti-Rohingya yang penuh kebencian Hal ini memicu pembunuhan massal dan pembersihan etnis.
Setelah promosi buletin
Harari memberikan argumen yang kuat mengapa algoritme seperti itu harus dianggap sebagai agen otonom, dan bagaimana, jika kita tidak berhati-hati, manusia dapat menjadi alat bagi AI untuk memanipulasi dengan kekuatan yang lebih hebat. Jika kita tidak mengambil tindakan segera, “kecerdasan alien” yang sedang berkembang ini (begitu dia sering menyebutnya) dapat mendatangkan malapetaka yang bahkan tidak dapat kita bayangkan, hingga kehancuran peradaban manusia.
Pandangan pesimistis terhadap AI bukanlah hal baru. “Doomsayers” seperti Eliezer Yudkowsky telah memperingatkan tentang potensi apokaliptik AI selama bertahun-tahun, dan bahkan industri AI mulai menyuarakan keprihatinannya. Apa yang Harari coba tambahkan ke dalam diskusi ini adalah perspektif jangka panjang. Ia percaya bahwa dengan menyoroti revolusi informasi di masa lalu dan menunjukkan bagaimana berbagai bentuk pemerintahan meresponsnya, kita dapat bersiap menghadapi bencana yang akan datang.
perhubungan Ada beberapa titik buta yang menarik. Sungguh aneh bahwa kapitalisme hampir tidak disebutkan dalam kritik terhadap teknologi yang terutama didorong oleh perusahaan yang mencari keuntungan. Namun, terlepas dari apakah Anda setuju atau tidak dengan kerangka sejarah AI yang dikemukakan oleh Pak Harari, dia menjelaskan bagaimana AI Anda pasti akan terkesan dengan ketelitian mereka dalam membangunnya. Merpati Utusan Perang Dunia. Ini digunakan di sini untuk mengungkap betapa licinnya informasi. Meskipun, seperti dalam buku-buku sebelumnya, ia sangat bergantung pada daftar (‘Dua Isu Utama’, ‘Lima Prinsip Mendasar’) dan biner (Kebenaran dan Ketertiban, Demokrasi dan Kediktatoran). Hal ini tidak menumpulkan tulisannya, namun membantu mengatur pemikirannya;
Solusi yang ia usulkan berkisar dari solusi yang masuk akal (melarang bot menyamar sebagai manusia) hingga solusi yang menggelikan (bekerja sama dengan seniman dan birokrat untuk membantu kita memahami jaringan komputer). perhubungan berfungsi terutama sebagai diagnosis dan ajakan bertindak, dan telah berhasil secara luas dalam hal ini. Jika itu dijual di dekatnya Sejarah lengkap sapiens Dengan demikian, kita akan menjadi spesies yang lebih siap menghadapi kebangkitan mesin.
