Pernahkah Anda menyadari, semakin lama menelusuri suatu topik di TikTok, topik tersebut dapat dengan cepat memenuhi for you page Anda? Apakah Anda pernah bertanya-tanya mengapa media sosial dapat menyajikan konten yang terpersonalisasi?
Hal ini disebabkan oleh algoritma dalam sebuah sistem yang dapat mendeteksi minat, kepribadian, dan suasana hati user. Akan tetapi, algoritma dalam media sosial merupakan pisau bermata dua yang dapat menjerumuskan user ke dalam jaringan konten negatif dan ekstrimis, atau terjebak dalam skema promosi penjualan online yang memunculkan sifat konsumerisme apabila tidak digunakan dengan bijak. Lantas, adakah cara untuk menanggulanginya?
Upaya penanggulangan risiko tersebut dapat dilakukan dengan Algorithm Audit yang merupakan studi empiris untuk mengidentifikasi potensi perilaku mencurigakan dalam sebuah sistem algoritma publik. Jenis audit ini dapat memberikan jaminan kepada para pengguna bahwa suatu sistem itu terpercaya dan terverifikasi telah memenuhi standar etika dan hukum.
Walaupun penggunaan algoritma dapat membawa berbagai manfaat bagi sebuah perusahaan---seperti mempermudah pengumpulan dan penginterpretasian data yang memungkinkan pengidentifikasian tren, serta pengambilan keputusan yang lebih akurat---, sebuah algoritma yang cacat dapat menyebabkan kerugian finansial yang besar dan kerusakan reputasi jika tidak ditanggulangi dengan baik.
Oleh sebab itu, dari sisi internal perusahaan, algorithm audit dapat menjadi sarana bagi para developer untuk melakukan inovasi sistem yang berkelanjutan dan wadah bagi manajer perusahaan untuk menilai dampak suatu sistem dan kesesuaiannya terhadap tujuan perusahaan.
Audit Algoritma juga sejalan dengan Chapter III Digital Services Act yang membahas mengenai upaya menciptakan ekosistem digital yang aman dan transparan. Digitalisasi proses bisnis dan sosial secara tidak langsung membawa risiko yang lebih besar bagi perusahaan, seperti tingginya risiko bersinggungan dengan hak dan kepentingan pihak lain yang dapat berujung pada kasus hukum. Maka dari itu, diperlukan sesuatu yang lebih dari sekedar pemeriksaan sederhana demi memastikan transparansi dan keamanan bagi semua pemangku kepentingan.
Pentingnya algorithm audit sudah disadari oleh salah satu KAP terbesar dunia, Deloitte. Deloitte mengusung layanan Algorithm & AI Assurance sebagai respons terhadap banyaknya kasus yang merugikan perusahaan secara finansial, regulasi, dan reputasi akibat sistem algoritma yang defektif.
Contohnya adalah kasus Gonzalez vs Google dan Taamneh vs Twitter, dimana tuntutan pada kedua raksasa teknologi tersebut didasarkan pada recommender system mereka yang dianggap mengarahkan user pada terorisme, kasus ini menyebabkan kerugian bagi reputasi perusahaan, bahkan untuk kasus Google, mereka sampai harus berhadapan dengan Mahkamah Agung Amerika Serikat.
Oleh karena itu, Deloitte menekankan perlunya audit algoritma yang komprehensif untuk melakukan pemeriksaan mengenai manajemen risiko algoritma, pemenuhan standar, dan integritas dari sistem algoritma tersebut. Untuk melakukan Algorithm Audit secara komprehensif, audit algoritma dapat dilakukan dengan beberapa metode, seperti sock puppet audit dan crowdsourcing audit.
Sock puppet audit merupakan strategi pengumpulan data dengan membuat program komputer yang menirukan perilaku user, seperti usia, lokasi, dan ketertarikan tertentu. Program ini kemudian menggunakan media sosial sebagaimana user pada umumnya untuk mendeteksi pola dan durasi pengerucutan konten.
Pada 2021, metode ini diimplementasikan oleh The Wall Street Journal dengan menggunakan 100 bot untuk menginvestigasi sistem rekomendasi TikTok, dimana mereka menemukan sistem algoritma yang dapat mengerucutkan tampilan konten sesuai dengan minat user berdasarkan durasi tonton video. Temuan ini dapat membuka perspektif pengguna mengenai alasan mengapa konten yang mereka lihat di beranda media sosial mereka semakin menjurus pada satu topik tertentu.