Upaya untuk melindungi keselamatan anak-anak di dunia dua dimensi media sosial online dapat berdampak negatif pada dunia 3D augmented reality dan virtual reality, menurut sebuah laporan yang dirilis Selasa oleh sebuah wadah pemikir teknologi di Washington, DC.
Upaya legislatif seperti Undang-Undang Keamanan dan Privasi Online Anak-anak (KOPSA), yang telah disahkan oleh Senat AS dan sekarang berada di Dewan Perwakilan Rakyat, dapat menyebabkan penyensoran yang berbahaya terhadap konten AR/VR, kata laporan itu. Yayasan Teknologi & Inovasi Informasi.
Jika KOPSA menjadi undang-undang, platform AR/VR akan dipaksa untuk mempercepat penerapannya seperti halnya platform media sosial tradisional, jelas laporan tersebut.
Dengan memberdayakan FTC untuk menganggap konten pada platform ini berbahaya, lanjutnya, FTC dapat menyensor lebih banyak konten pada platform AR/VR, atau platform itu sendiri yang menyensor konten untuk menghindari tanggung jawab, termasuk konten pendidikan dan hiburan untuk anak-anak. , dan identitas.
“Salah satu ketakutan yang kita miliki terhadap KOPSA adalah bahwa KOPSA membuka pintu terhadap potensi sensor yang berlebihan dengan memberikan FTC (Komisi Perdagangan Federal) kekuasaan untuk memutuskan apa yang berbahaya,” kata analis kebijakan Alex Ambrose, penulis laporan tersebut.
“Ini adalah cara lain bagi partai politik untuk memutuskan apa yang merugikan,” katanya kepada TechNewsWorld. “FTC dapat mengatakan bahwa konten tentang perlindungan lingkungan, pemanasan global, dan perubahan iklim menimbulkan kecemasan. Jadi kita harus menyingkirkan segala sesuatu yang berhubungan dengan perubahan iklim karena dapat menimbulkan kecemasan pada anak-anak.
Sensor yang berlebihan dapat dihindari
Andy Lulham, COO Verifikasi SayaPenyedia verifikasi usia dan konten yang berbasis di London ini mengakui bahwa kekhawatiran akan sensor berlebihan menjadi hal utama dalam diskusi mengenai regulasi online. “Tetapi meskipun ketakutan ini dapat dimengerti, saya sangat yakin bahwa sebagian besar ketakutan ini tidak pada tempatnya,” katanya kepada TechNewsWorld. “Peraturan pemerintah yang dirancang dengan baik bukanlah musuh kebebasan berekspresi, namun penjaganya di era digital.”
Lulham berpendapat bahwa kunci pengendalian terletak pada kebijakan. “Peraturan yang bersifat menyeluruh dan kaku berisiko mengarah pada sensor yang berlebihan,” katanya. “Namun, saya membayangkan kerangka peraturan yang lebih bernuansa dan berbasis prinsip yang dapat meningkatkan kebebasan online sekaligus melindungi pengguna yang rentan. Kami telah melihat contoh pendekatan seimbang dalam peraturan privasi seperti GDPR.
GDPR — Peraturan Perlindungan Data Umum — yang berlaku sejak tahun 2018, merupakan undang-undang perlindungan data komprehensif di Uni Eropa yang mengatur bagaimana perusahaan harus mengumpulkan, menyimpan, dan menggunakan data pribadi penduduk UE.
“Saya sangat yakin bahwa peraturan harus berfokus pada mewajibkan sistem dan proses keamanan yang kuat daripada menentukan keputusan konten tertentu,” lanjut Lulham. “Pendekatan ini mengalihkan tanggung jawab pada platform untuk mengembangkan strategi kepercayaan dan keamanan yang komprehensif, mendorong inovasi dibandingkan menciptakan budaya ketakutan dan penghapusan berlebihan.”
Ia menegaskan, transparansi merupakan cerminan regulasi yang efektif. “Mewajibkan laporan transparansi yang terperinci dapat membuat platform tetap akuntabel tanpa harus menerapkan kebijakan konten yang berat,” jelasnya. “Hal ini tidak hanya akan membantu mencegah penjangkauan yang berlebihan namun juga meningkatkan kepercayaan masyarakat terhadap platform dan kerangka peraturan.”
“Selanjutnya,” tambahnya, “Saya menganjurkan peraturan yang memerlukan proses banding yang jelas dan dapat diakses untuk keputusan penghapusan konten. Katup pengaman ini membantu memperbaiki kesalahan yang tidak dapat dihindari dan mencegah sensor yang tidak perlu.”
“Kritikus mungkin berpendapat bahwa peraturan apa pun pasti mengarah pada sensor,” aku Lulham. “Namun, saya berpendapat bahwa ancaman terbesar terhadap kebebasan berekspresi datang dari ruang yang tidak diatur di mana pengguna yang rentan dibungkam melalui pelecehan dan pelecehan. Peraturan yang dirancang dengan baik dapat menciptakan lapangan bermain yang lebih setara, memperkuat suara-suara beragam yang mungkin akan teredam.”
Yang baik, yang buruk dan yang jelek dari AR/VR
Laporan ITIF mencatat bahwa pembicaraan tentang keamanan online sering kali mengabaikan teknologi AR/VR. Teknologi imersif menumbuhkan hubungan sosial dan merangsang kreativitas dan imajinasi, jelasnya. Permainan, imajinasi, dan kreativitas semuanya penting bagi perkembangan anak.
Namun, laporan tersebut mengakui bahwa mengatasi risiko yang dihadapi anak-anak dengan teknologi imersif secara tepat adalah sebuah tantangan. Sebagian besar teknologi imersif yang ada tidak dirancang untuk anak-anak di bawah 13 tahun, lanjutnya. Anak-anak menjelajahi situs yang dibuat oleh orang dewasa, yang mengarah pada paparan konten yang tidak sesuai usia dan dapat menciptakan kebiasaan dan perilaku yang berbahaya bagi perkembangan psikologis dan sosial anak.
Mengatasi risiko-risiko ini memerlukan kombinasi inovasi pasar dan pengambilan kebijakan yang bijaksana, katanya. Keputusan desain perusahaan, praktik kontrol konten, alat kontrol orang tua, serta strategi kepercayaan dan keamanan sebagian besar membentuk lingkungan keamanan di Metaverse.
Namun, mereka mengakui bahwa intervensi kebijakan publik diperlukan untuk mengatasi beberapa ancaman keamanan. Para pengambil kebijakan sudah menangani keselamatan anak pada platform “2D” seperti media sosial, yang menurut ITIF dapat mengarah pada peraturan yang berdampak pada teknologi AR/VR.
Sebelum menerapkan peraturan tersebut, laporan tersebut merekomendasikan para pembuat kebijakan untuk mempertimbangkan upaya keamanan berkelanjutan yang dilakukan pengembang AR/VR untuk memastikan alat-alat ini tetap efektif. Ketika alat keamanan tidak memadai, lanjutnya, pembuat kebijakan harus fokus pada intervensi yang ditargetkan untuk mengatasi dampak buruk yang terbukti, bukan risiko hipotetis.
“Banyak layanan online yang berupaya menghapus konten berbahaya, namun sebagian dari konten online tersebut pasti akan lolos,” kata Ambrose. “Masalah yang kita lihat di platform saat ini, yang memicu kekerasan, vandalisme, dan penyebaran konten berbahaya serta informasi yang salah, hanya akan berlanjut di platform yang imersif.”
“Metaverse berkembang pesat dengan data dalam jumlah besar, jadi kita perkirakan masalah ini akan meluas – bahkan mungkin lebih luas daripada yang kita lihat saat ini,” tambahnya.
Keamanan berdasarkan desain
Lulham setuju dengan pernyataan laporan tersebut bahwa keputusan desain perusahaan membentuk lingkungan keamanan metaverse.
“Dalam pandangan saya, keputusan yang diambil perusahaan mengenai keamanan online sangat penting untuk menciptakan lingkungan digital yang aman bagi anak-anak,” katanya. “Lanskap saat ini penuh dengan risiko, dan saya yakin perusahaan mempunyai tanggung jawab dan kekuatan untuk mengubahnya.”
Desain antarmuka pengguna adalah garis pertahanan pertama untuk melindungi anak-anak, katanya. “Perusahaan dapat secara mendasar mengubah cara anak-anak berinteraksi dengan platform online dengan mengutamakan desain yang intuitif dan sesuai usia,” jelasnya. “Dengan merancang antarmuka yang secara alami memandu pengguna dan mendidik mereka tentang perilaku aman, kami dapat mengurangi pertemuan berbahaya secara signifikan.”
Dia menambahkan bahwa moderasi konten berada pada tahap yang krusial. “Volume konten menuntut perubahan paradigma dalam pendekatan kami,” ujarnya. “Meskipun alat-alat yang didukung AI sangat penting, namun alat-alat tersebut bukanlah obat mujarab. Saya berpendapat bahwa masa depan terletak pada pendekatan hibrida, yang menggabungkan AI canggih dengan pengawasan manusia untuk menavigasi garis tipis antara perlindungan dan sensor.
Alat kontrol orang tua sering kali diabaikan padahal penting, tegasnya. Ini tidak boleh hanya sekedar add-on, namun harus menjadi fitur inti yang dibangun dengan perhatian yang sama seperti platform inti. “Saya membayangkan masa depan di mana alat-alat ini sangat intuitif dan efektif sehingga menjadi bagian integral dari kehidupan digital keluarga,” katanya.
Ia berargumentasi bahwa strategi kepercayaan dan keamanan memisahkan platform yang baru muncul dan platform yang sudah menurun. “Perusahaan yang menerapkan pendekatan holistik, mengintegrasikan verifikasi usia yang kuat, pemantauan real-time, dan pelaporan yang transparan, merupakan standar terbaik,” ujarnya. “Keterlibatan rutin dengan pakar keselamatan anak dan pembuat kebijakan merupakan hal yang tidak dapat dinegosiasikan bagi perusahaan yang serius dalam melindungi konsumen muda.”
“Singkatnya,” lanjutnya, “Saya melihat masa depan keamanan online untuk anak-anak sebagai ‘keamanan yang dirancang’ bukan hanya sebuah kata kunci, namun sebuah prinsip fundamental yang mendorong semua aspek pengembangan platform.”
Anak-anak, sebagai pendorong metaverse, akan memainkan peran penting dalam adopsi pasar terhadap teknologi imersif, kata laporan itu.
Hal ini mengakui bahwa orang tua, perusahaan dan regulator mempunyai peran dalam menyeimbangkan privasi dan keamanan, memastikan bahwa inovasi dapat berkembang di bidang baru ini, di mana menciptakan lingkungan yang aman bagi semua pengguna teknologi AR/VR juga merupakan tantangan yang kompleks. Sekaligus menciptakan pengalaman imersif yang menarik dan inovatif.
