Memitigasi Risiko Deepfake sebagai Mesin Hoaks Politik

Kalaupun masyarakat kita masih belum familier dengan teknologi deepfake, kita tetap patut waspada karena mungkin aktor-aktor asing akan memakainya untuk mengintervensi integritas pemilu kita, misalnya dengan menyuntik kebohongan di ruang publik.

Memang, teknologi deepfake untuk tahap saat ini belumlah "sempurna".

Sejumlah eksperimen menunjukkan bahwa deepfake masih banyak mengandung cacat: suara, meski punya kemiripan yang luar biasa dengan suara target, kerap tak sinkron dengan gerakan bibir, gestur tubuh (terutama bahu) kurang lentur, dan mata jarang berkedip.

Kendati begitu, disinformasi deepfake memang tak harus terlalu menarik atau realistis untuk berhasil menipu. Seburuk apa pun konten hoaks deepfake, selalu ada orang-orang fanatik dan partisan yang akan mempercayainya.

Bagaimana jika Presiden Jokowi, yang tahun 2024 nanti tak bisa mencalonkan lagi, tiba-tiba menelepon Anda secara pribadi dan meminta Anda untuk memilih kandidat tertentu? Anda mungkin akan tertawa dan membangkang, tapi pikirkan jika yang ditelepon adalah para relawannya.

Ditambah dengan kekuatan algoritme media sosial, konten hoaks deepfake bisa menyebar cepat dan menargetkan audiens yang sangat spesifik. Dalam konteks pemilu, hal ini berpotensi membawa trik-trik kotor kampanye ke tingkat yang lebih buruk.

Bayangkan apa yang terjadi jika sumber-sumber kebohongan deepfake tak bisa dilacak dan pasokannya tak terbatas. Bayangkan sebuah suara AI berbicara tentang skandal masa lalu dari salah satu kandidat; pemilih yang berpikiran konspiratif pasti akan teryakinkan.

Masalahnya, tak seperti Zelensky, bagaimana jika tokoh publik yang diserang tak bisa cepat-cepat membuktikan bahwa video yang berpotensi menghancurkan kariernya itu palsu?

Jadi, kita sebenarnya tak memerlukan puluhan atau ratusan konten deepfake; kita hanya perlu satu atau dua video palsu yang efektif dan realistis untuk memicu kekacauan sosial-politik. Kita tampaknya tak bisa lagi mempercayai apa yang kita lihat dan dengar.

Benang kusut deepfake

Ada banyak jawaban yang ditawarkan untuk memitigasi risiko deepfake, tapi jawaban-jawaban tersebut masih merupakan benang kusut. Sebelum sampai ke jawaban saya, mari kita periksa beberapa jawaban umum dan mengapa itu tak akan berhasil.

Sejauh ini, kita mengenal beberapa peraturan yang mengatur tentang pencemaran nama baik dan pelanggaran hak cipta. Lalu, apakah konten hoaks deepfake dapat terjangkau oleh peraturan-peraturan itu? Mungkin bisa, tapi kita terhambat oleh elemen anonimitas.