Melawan Balik Otoritarianisme Digital

Dalam kasus-kasus seperti MCA pada tahun 2017, saya melihat penggunaan luas disinformasi dan mobilisasi akun troll dan bot, sebagai bagian dari pasukan siber mereka), untuk melakukan persekusi, yang dimulai dengan tindakan doxing -- menyebarkan informasi pribadi ke media sosial sebagai cara untuk mengintimidasi target dan kemudian diikuti oleh kekerasan.

Pada tahun 2019, sejumlah pengguna internet populer yang lazim disebut Key Opinion Leader (KOL) mempengaruhi pengikutnya untuk melakukan "amuk siber" untuk menyerang outlet media seperti Tempo, detik, Kompas yang artikelnya tidak mereka sukai karena dianggap "mengkritik" orang yang mereka dukung, dengan perintah untuk memberikan skor satu bintang di apps store dengan tujuan agar aplikasi tersebut dikeluarkan dari apps store. Selain itu, para pengikut ini juga menyerang jurnalis mereka dengan tindakan doxing dan perundungan menggunakan platform UGC.

Oknum-oknum jahat ini bila dibiarkan akan membunuh demokrasi. Namun untuk melindungi diri dari oknum-oknum jahat ini tidak cukup hanya dengan mengandalkan regulasi internet yang dimiliki Indonesia sejak 2008. Alih-alih mengirim oknum jahat ke penjara, undang-undang ini malah banyak mengirim jurnalis, aktivis, dan akademisi ke balik jeruji hanya karena mengekspresikan pendapat mereka secara sah melalui platform UGC. 

Bahkan regulasi internet ini telah membawa Indonesia ke situasi yang tidak demokratis. Ancaman terhadap demokrasi datang dari pasal 26, 27 ayat 1, 27 ayat 3, 28 ayat 2, 29, 36, 40 dan pasal 45 Undang-Undang Informasi dan Transaksi Elektronik (UU ITE). Keberadaan pasal-pasal bermasalah yang menghambat demokrasi ini lebih dulu perlu dihapus dan atau diperbaiki untuk membenahi kondisi demokrasi digital agar sehat kembali.

Di sisi seberang meja, saya melihat ketidakmampuan platform user-generated content untuk melakukan moderasi konten dari ulah oknum-oknum jahat ini. Hambatan bahasa, norma/hukum yang berbeda, dan pemahaman yang buruk tentang konteks peristiwa, membuat moderasi konten platform UGC tidak dapat diandalkan. 

Moderasi konten yang awut-awutan akan membahayakan sifat terbuka Internet dan semakin memarginalkan suara kelompok yang terpinggirkan. Karena itu penting dalam melakukan moderasi konten, platform UGC harus menghormati hak asasi manusia. Selain itu, menggunakan AI/machine learning, terutama selama COVID-19, adalah keputusan yang sangat buruk.

Peristiwa ini telah terjadi bulan lalu, ketika YouTube memotong siaran langsung webinar 'Menjelajahi agama non-homofobia 'yang diadakan oleh SEJUK dengan menyatakan konten melanggar pedoman komunitas (community guidelines) dan juga webinar langsung lainnya tentang' Hukum Lingkungan dan Omnibus 'yang diadakan oleh JATAM karena alasan yang sama. Setelah mengomunikasikan kasus ini ke Google Indonesia, kami baru mengetahui bahwa AI keliru menghentikan siaran tersebut, sejak diberhentikannya pengulas karena meluasnya pandemi COVID-19.

Sebaliknya, platform UGC tanpa moderasi sama sekali akan semakin terganggu dengan ulah oknum-oknum jahat yang melakukan doxing, trolling, dan penyalahgunaan hak digital. Sekalipun telah tercantum sebagai tindakan yang dilarang dalam community guidelines, ternyata banyak kasus doxing tetap tidak tersentuh oleh platform UGC. Ini menandakan bila hanya mengandalkan adanya community guidelines sendiri, moderasi konten Korporasi tidak akan berjalan baik.

Fakta-fakta ini mendorong saya untuk menyatakan moderasi konten di platform UGC harus melibatkan dan berkolaborasi dengan organisasi masyarakat sipil untuk memantau, mengevaluasi community guidelines, dan membutuhkan transparansi, baik dari Negara maupun Korporasi seperti platform UGC, di depan publik yang dapat dipertanggungjawabkan.

Upaya Bersama Melawan Balik

Pada 2018, Pelapor Khusus PBB untuk Kebebasan Berekspresi David Kaye telah menuliskan sebuah panduan yang dapat diikuti oleh Negara dan Korporasi termasuk platform UGC. David Kaye merekomendasikan agar Negara memastikan lingkungan yang memungkinkan untuk kebebasan berekspresi online dan bahwa perusahaan menerapkan standar hak asasi manusia di semua tahap operasi mereka. 

Hukum hak asasi manusia memberi Korporasi alat untuk mengartikulasikan posisi mereka dengan cara yang menghormati norma-norma demokrasi dan melawan tuntutan otoriter. Paling tidak, Korporasi dan Negara harus melakukan transparansi untuk memastikan otonomi pengguna sebagai individu dalam menggunakan hak-hak dasar secara daring.