Pertengahan Maret tahun lalu, beredar video di media sosial yang menampilkan presiden Ukraina Volodymyr Zelensky menyuruh tentaranya untuk menyerah kepada Rusia. Video tersebut menyebar sangat cepat dan banyak dibicarakan, terutama di Rusia.
Tapi, Zelensky tak pernah mengucapkan itu.
Seseorang telah mengarangnya lewat teknologi deepfake, kecerdasan buatan yang memungkinkan pembuatan video seseorang yang wajah atau tubuhnya diubah secara digital sehingga tampak seperti orang lain, plus suaranya begitu persis dengan orang yang ditirukan.
Saya bertanya-tanya apakah deepfake akan memperburuk fenomena hoaks politik di Pemilu 2024 mendatang, mengingat kontes elektoral sebelumnya seperti Pilgub Jakarta 2017 dan Pemilu Serentak 2019 sangat kental oleh black campaign dan informasi palsu.
Menurut saya, pada Pemilu 2024 nanti, konten hoaks deepfake belum tentu lebih masif daripada konten hoaks lainnya, tapi sedikit saja konten hoaks deepfake akan bekerja lebih efektif, murah, dan berbahaya. Jadi, kita harus memitigasinya sedini mungkin.
Jika kemampuan masyarakat kita terbukti kurang baik dalam mendeteksi berita palsu berbasis teks, apa yang akan terjadi kalau visual palsu seperti video disajikan sebagai fakta yang meyakinkan?
Menakar risiko penggunaan deepfake pada Pemilu 2024
Apakah orang "jatuh cinta" pada deepfake saat Pemilu 2024 nanti masih belum jelas, tapi bukannya tak terbayangkan. Ada beberapa alasan untuk meyakini bahwa konten hoaks deepfake akan memiliki dampak politik yang merugikan pada Pemilu 2024 nanti.
Pertama, deepfake bisa menjadi disinformasi yang realistis. Deepfake bisa dihasilkan hanya dalam beberapa detik, tapi hasilnya sama meyakinkannya dengan gambar dan suara asli. Masyarakat awam mungkin bakal kesulitan untuk membedakan antara fakta dan fiksi.
Kedua, deepfake bisa dipakai untuk memperkuat misinformasi, disinformasi, atau malinformasi yang sudah ada. Seseorang mungkin membuat deepfake di mana Presiden Jokowi menyatakan dukungannya atas kandidat tertentu, atau menuduh kandidat lain sebagai antek PKI.
Ketiga, deepfake juga bisa menjadi bentuk hoaks yang efisien. Jika seseorang cukup terlatih, bahkan pada tingkat yang paling minimal sekalipun, dia bisa membuat banyak konten deepfake yang realistis dalam waktu singkat, biasanya dengan bantuan AI generatif.
Kalaupun masyarakat kita masih belum familier dengan teknologi deepfake, kita tetap patut waspada karena mungkin aktor-aktor asing akan memakainya untuk mengintervensi integritas pemilu kita, misalnya dengan menyuntik kebohongan di ruang publik.
Memang, teknologi deepfake untuk tahap saat ini belumlah "sempurna".
Sejumlah eksperimen menunjukkan bahwa deepfake masih banyak mengandung cacat: suara, meski punya kemiripan yang luar biasa dengan suara target, kerap tak sinkron dengan gerakan bibir, gestur tubuh (terutama bahu) kurang lentur, dan mata jarang berkedip.
Kendati begitu, disinformasi deepfake memang tak harus terlalu menarik atau realistis untuk berhasil menipu. Seburuk apa pun konten hoaks deepfake, selalu ada orang-orang fanatik dan partisan yang akan mempercayainya.
Bagaimana jika Presiden Jokowi, yang tahun 2024 nanti tak bisa mencalonkan lagi, tiba-tiba menelepon Anda secara pribadi dan meminta Anda untuk memilih kandidat tertentu? Anda mungkin akan tertawa dan membangkang, tapi pikirkan jika yang ditelepon adalah para relawannya.
Ditambah dengan kekuatan algoritme media sosial, konten hoaks deepfake bisa menyebar cepat dan menargetkan audiens yang sangat spesifik. Dalam konteks pemilu, hal ini berpotensi membawa trik-trik kotor kampanye ke tingkat yang lebih buruk.
Bayangkan apa yang terjadi jika sumber-sumber kebohongan deepfake tak bisa dilacak dan pasokannya tak terbatas. Bayangkan sebuah suara AI berbicara tentang skandal masa lalu dari salah satu kandidat; pemilih yang berpikiran konspiratif pasti akan teryakinkan.
Masalahnya, tak seperti Zelensky, bagaimana jika tokoh publik yang diserang tak bisa cepat-cepat membuktikan bahwa video yang berpotensi menghancurkan kariernya itu palsu?
Jadi, kita sebenarnya tak memerlukan puluhan atau ratusan konten deepfake; kita hanya perlu satu atau dua video palsu yang efektif dan realistis untuk memicu kekacauan sosial-politik. Kita tampaknya tak bisa lagi mempercayai apa yang kita lihat dan dengar.
Benang kusut deepfake
Ada banyak jawaban yang ditawarkan untuk memitigasi risiko deepfake, tapi jawaban-jawaban tersebut masih merupakan benang kusut. Sebelum sampai ke jawaban saya, mari kita periksa beberapa jawaban umum dan mengapa itu tak akan berhasil.
Sejauh ini, kita mengenal beberapa peraturan yang mengatur tentang pencemaran nama baik dan pelanggaran hak cipta. Lalu, apakah konten hoaks deepfake dapat terjangkau oleh peraturan-peraturan itu? Mungkin bisa, tapi kita terhambat oleh elemen anonimitas.
Hampir semua pencipta deepfake menyembunyikan identitasnya.
Terlebih, kalaupun pelakunya bisa diidentifikasi, orang yang merasa dirugikan oleh konten deepfake harus meluangkan waktu, tenaga, dan biaya untuk menuntut pelakunya. Jika pelakunya berada di negara lain, maka beban dan komplikasi yang ditimbulkannya jadi lebih berat.
Gugatan pencemaran nama baik dan tindakan serupa, sebagaimana bisa kita lihat saat ini, juga bakal menjadi jalur yang lambat dan berpotensi kurang efektif untuk memperbaiki kerusakan reputasi yang diakibatkan oleh video tersebut, mengingat begitu cepatnya penyebaran konten deepfake.
Demikianlah, upaya hukum semata tampaknya masih belum cukup untuk mengurangi atau memperbaiki kerusakan yang ditimbulkan deepfake, apalagi sifat kampanye pemilu yang sensitif terhadap waktu.
Tapi, itu bukan berarti hukum tak berguna. Bagaimanapun, lebih baik ada hukum yang berusaha untuk menangkal fenomena deepfake ini daripada tak ada sama sekali. Saya hanya mengatakan bahwa upaya ini jauh dari cukup.
Jawaban berikutnya adalah mengedukasi masyarakat tentang kemungkinan maraknya peredaran deepfake, sehingga mereka harus teliti saat menerima informasi. Ini masuk akal; pemerintah, kata jawaban ini, harus menyediakan segala informasi tentang deepfake.
Masalahnya, kita juga perlu menyadari efek hilir dari deepfake: jika pemilih berulang kali diperingatkan tentang keberadaan dan bahaya deepfake, mereka mungkin tak akan lagi mempercayai semua rekaman video politik, baik yang asli maupun yang palsu.
Ternovski dkk. (2021) melakukan sebuah eksperimen survei online, dan mereka menemukan bahwa pemilih ternyata kurang bisa membedakan antara video asli dan video palsu.
Imbauan yang memperingatkan tentang adanya deepfake justru tak meningkatkan kemampuan mereka untuk mengenali konten video yang dimanipulasi. Sebaliknya, peringatan ini membuat mereka percaya bahwa video yang mereka tonton adalah palsu, bahkan ketika video tersebut asli.
Dengan satu peringatan kecil bahwa video yang mereka tonton mungkin adalah deepfake, ketidakpercayaan meningkat drastis. Perasaan was-was ini bukannya membangkitkan sikap kritis atau skeptis, melainkan ketidakpastian dan sinisme berlebihan.
Maksud saya, tentu saja, bukan berarti kita harus mencekal masyarakat untuk menyadari keberadaan dan bahaya deepfake. Ini hanya berarti masyarakat juga harus dididik tentang bagaimana caranya membedakan antara konten yang benar dan konten deepfake.
Jawaban terakhir yang paling sering diajukan adalah bahwa AI itu sendiri juga bisa menjadi solusinya. Kita bisa menggunakan AI untuk menyebarkan informasi hoaks, dan kita pun bisa memanfaatkan AI untuk memerangi informasi hoaks itu.
Mesin penangkal ini bakal mengenali detail otoritatif dari pembuat, asal, dan distribusi konten deepfake. Unsur kecepatan amat penting: setiap menit yang dihabiskan untuk membongkar video, klip lainnya sedang menyebar lebih jauh di dunia maya.
Sayangnya, pendanaan dan dukungan terhadap mesin pengidentifikasi berita hoaks lebih sedikit daripada mesin pembuatnya. Ini terutama karena tak ada uang (atau sedikit sekali, kalaupun ada) yang bisa dihasilkan dari mendeteksi konten-konten hoaks.
Di samping itu, perluasan akses pada perangkat pendeteksi pemalsuan ini juga membawa ancaman tersendiri; ini sama saja seperti membuka pintu lebar-lebar bagi para pembuat deepfake untuk memeriksa kode dan menemukan solusi. Ini akan jadi permainan kucing-kucingan tanpa akhir.
Saya pikir persoalan utamanya bukan semata tentang mendeteksi berita palsu, melainkan bagaimana kita bisa berpikir kritis dan analitis terhadap sebagian besar (kalau bukan semua) informasi yang kita terima, khususnya konten hoaks deepfake.
Perkuat jurnalisme dan literasi digital
Jawaban saya terhadap masalah ini sedikitnya mencakup dua hal: perkuat (kembali) jurnalisme dan literasi digital pemilih.
Di tengah banyaknya outlet jurnalistik yang runtuh atau terancam tak relevan lagi, mengapa kita masih membutuhkan jurnalisme? Ada setidaknya satu hal yang ditawarkan jurnalisme dan tak dimiliki oleh platform informasi lain seperti media sosial: kurasi kritis.
Pada tahun-tahun politik yang serba ambigu dan diliputi aneka masalah rumit, kejelasan adalah segalanya. Tak ada kekuatan lain yang melebihi jurnalisme dalam seni menghadirkan (dan mengklarifikasi) fakta.
Jurnalisme bisa memanfaatkan alat pendeteksi fakta juga, dan nyatanya sudah begitu. Masalahnya, alat pendeteksi deepfake hanya mendeteksi unsur-unsur manipulasi dalam konten yang diperiksanya, tapi tak mampu mendeteksi isi konten.
Itu jadi masalah rumit ketika berita yang diperiksa sebenarnya tak sepenuhnya benar dan tak sepenuhnya salah. Dengan demikian, penggunaan alat pendeteksi fakta sekalipun tak dapat menghilangkan peran manusia, terutama jurnalis dan masyarakat itu sendiri.
Jika para jurnalis berperan penting dalam mengkurasi informasi, ujung tombak dari semua ini adalah daya kritis masyarakat itu sendiri. Para jurnalis bisa saja menyajikan banyak fakta kepada publik, tapi itu masih akan bergantung pada bagaimana masyarakat menerimanya.
Gejala ini terutama terkait dengan polarisasi yang biasa muncul saat kontes pemilu, karena masyarakat yang terpecah-pecah sering kali mengabaikan fakta dan memilah informasi sesuai selera (efek ruang gema).
Sebuah penelitian yang mengeksplorasi solusi terbaik atas masalah deepfake menyimpulkan bahwa partisipan yang berpikir kritis dan analitis punya peluang lebih tinggi untuk mengidentifikasi deepfake secara tepat ketimbang mereka yang mengandalkan firasat.
Artinya, ketika melihat sebuah video yang membahas isu sensitif, mungkin disampaikan tokoh terkemuka, jangan dulu manut. Lihat baik-baik apakah suaranya sinkron dengan gerak bibir, gesturnya seperti robot, atau matanya jarang berkedip.
Steven Levitsky dan Daniel Ziblatt (2018) benar: kemunduran demokrasi hari ini lebih sering bermula di kotak suara. Jadi, meski teknologi deepfake belum familier di Indonesia, bukan berarti Pemilu 2024 nanti akan aman sepenuhnya dari teror deepfake.
Kita harus memitigasinya sedini mungkin. Dan saya terpaksa menutup artikel ini dengan seruan yang teramat pahit tapi mungkin berguna: "Jangan langsung percaya pada apa yang Anda lihat dan dengar, termasuk apa yang Anda katakan kepada diri Anda sendiri."
Kita melihat apa yang ingin kita lihat.
