Bahaya Pengawasan Pengenalan Wajah dengan Kecerdasan Buatan: Mengapa Morotarium dan Larangan Dibutuhkan

Bahaya Pengawasan Pengenalan Wajah dengan Kecerdasan Buatan: Mengapa Moratorium dan Larangan Dibutuhkan

Meningkatnya penggunaan kecerdasan buatan (AI) yang digabungkan dengan jutaan kamera pengintai di ruang publik dan ruang privat telah memberikan pemerintah kekuatan yang belum pernah ada sebelumnya untuk memantau warganya. Teknologi ini memungkinkan pihak berwenang untuk mengetahui lokasi, aktivitas, dan bahkan kondisi emosional Anda. Meskipun AI memiliki banyak manfaat, termasuk merevolusi perawatan kesehatan, transportasi, dan produksi energi, AI juga menimbulkan kekhawatiran tentang privasi dan potensi penyalahgunaan oleh badan-badan pemerintah.

Perusahaan teknologi asal Tiongkok, Huawei, telah menerbitkan laporan berjudul "Nowhere to Hide: Membangun Kota yang Aman dengan Pendukung Teknologi dan AI," yang merayakan konsep pengawasan pemerintah yang menyeluruh. "Solusi Kota Aman" dari Huawei membanggakan bahwa solusi ini dapat mendeteksi aktivitas kriminal dengan menganalisis perilaku orang dalam rekaman video dan menggabungkannya dengan data pemerintah seperti status ekonomi dan jejaring sosial.

Tiongkok telah memasang lebih dari 500 juta kamera pengintai untuk memantau masyarakat, termasuk kamera pengenal wajah yang membandingkan pejalan kaki dan pengemudi dengan foto nasional dan registrasi ID dan daftar hitam. Pengawasan semacam itu tidak hanya mendeteksi kejahatan tetapi juga mengidentifikasi protes politik. Baru-baru ini, pemerintah Cina menahan dan menanyai orang-orang yang berpartisipasi dalam protes penguncian COVID-19 dengan menggunakan teknologi ini.

Di Amerika Serikat, diperkirakan ada 85 juta kamera pengintai yang dipasang di ruang publik dan pribadi. Teknologi pengenalan wajah secara real-time semakin banyak digunakan di toko-toko ritel, arena olahraga, dan bandara. San Francisco baru-baru ini mengesahkan peraturan yang mengizinkan polisi untuk mengakses siaran langsung pribadi. Meskipun penggunaan AI dalam pengawasan memiliki manfaat, termasuk peningkatan keamanan publik, potensi penyalahgunaan tidak dapat diabaikan. Sangat penting untuk memastikan bahwa alat canggih ini tidak jatuh ke tangan yang salah dan digunakan secara etis untuk melindungi hak-hak warga negara atas privasi dan kebebasan. Menurut Woodrow Hartzog, seorang profesor di Boston University School of Law, dan Evan Selinger, seorang filsuf di Rochester Institute of Technology, teknologi pengenal wajah adalah bentuk pengawasan paling berbahaya yang pernah ditemukan. Menurut mereka, teknologi ini dapat mengubah wajah kita menjadi kartu identitas permanen yang dipamerkan kepada polisi. Mereka juga memperingatkan bahwa kombinasi kecerdasan buatan, pengawasan video, penyimpanan data yang murah, dan sistem analisis yang canggih menciptakan lingkungan yang sempurna bagi rezim otoriter dan penindas untuk menggunakan algoritme untuk mengidentifikasi orang, lebih dari 110 organisasi non-pemerintah telah menandatangani Deklarasi Albania 2019, yang menyerukan moratorium teknologi pengenal wajah untuk pengawasan massal. Deklarasi tersebut mendesak negara-negara untuk menangguhkan penggunaan teknologi pengenal wajah untuk tujuan ini. Pada tahun 2021, Kantor Komisaris Tinggi Hak Asasi Manusia Perserikatan Bangsa-Bangsa mengeluarkan laporan yang menyerukan kepada pemerintah untuk memberlakukan moratorium penggunaan teknologi yang berpotensi berisiko tinggi seperti pengenal wajah jarak jauh secara real-time hingga dapat dipastikan bahwa penggunaannya tidak melanggar hak asasi manusia.

Senator Ed Markey (D-Mass.) dan yang lainnya memperkenalkan Undang-Undang Moratorium Pengenalan Wajah dan Teknologi Biometrik pada tahun 2021, yang akan menjadikannya melanggar hukum bagi lembaga atau pejabat federal mana pun untuk memperoleh, memiliki, mengakses, atau menggunakan sistem pengawasan biometrik apa pun atau informasi yang berasal dari sistem semacam itu yang dioperasikan oleh entitas lain. Jaringan Hak Digital Eropa telah mengkritik usulan peraturan AI Act Uni Eropa tentang identifikasi biometrik jarak jauh. Mereka berpendapat bahwa dilacak oleh sistem pengenalan wajah di ruang publik tidak sesuai dengan esensi dari persetujuan berdasarkan informasi dan melanggar privasi, perlindungan data, kebebasan berekspresi, kebebasan berkumpul, dan hak-hak non-diskriminasi. Jika kita tidak melarang pengawasan pengenalan wajah secara real-time oleh agen-agen pemerintah, kita berisiko secara tidak sengaja terjerumus ke dalam totalitarianisme siap pakai.