Pertengahan Maret tahun lalu, beredar video di media sosial yang menampilkan presiden Ukraina Volodymyr Zelensky menyuruh tentaranya untuk menyerah kepada Rusia. Video tersebut menyebar sangat cepat dan banyak dibicarakan, terutama di Rusia.
Tapi, Zelensky tak pernah mengucapkan itu.
Seseorang telah mengarangnya lewat teknologi deepfake, kecerdasan buatan yang memungkinkan pembuatan video seseorang yang wajah atau tubuhnya diubah secara digital sehingga tampak seperti orang lain, plus suaranya begitu persis dengan orang yang ditirukan.
Saya bertanya-tanya apakah deepfake akan memperburuk fenomena hoaks politik di Pemilu 2024 mendatang, mengingat kontes elektoral sebelumnya seperti Pilgub Jakarta 2017 dan Pemilu Serentak 2019 sangat kental oleh black campaign dan informasi palsu.
Menurut saya, pada Pemilu 2024 nanti, konten hoaks deepfake belum tentu lebih masif daripada konten hoaks lainnya, tapi sedikit saja konten hoaks deepfake akan bekerja lebih efektif, murah, dan berbahaya. Jadi, kita harus memitigasinya sedini mungkin.
Jika kemampuan masyarakat kita terbukti kurang baik dalam mendeteksi berita palsu berbasis teks, apa yang akan terjadi kalau visual palsu seperti video disajikan sebagai fakta yang meyakinkan?
Menakar risiko penggunaan deepfake pada Pemilu 2024
Apakah orang "jatuh cinta" pada deepfake saat Pemilu 2024 nanti masih belum jelas, tapi bukannya tak terbayangkan. Ada beberapa alasan untuk meyakini bahwa konten hoaks deepfake akan memiliki dampak politik yang merugikan pada Pemilu 2024 nanti.
Pertama, deepfake bisa menjadi disinformasi yang realistis. Deepfake bisa dihasilkan hanya dalam beberapa detik, tapi hasilnya sama meyakinkannya dengan gambar dan suara asli. Masyarakat awam mungkin bakal kesulitan untuk membedakan antara fakta dan fiksi.
Kedua, deepfake bisa dipakai untuk memperkuat misinformasi, disinformasi, atau malinformasi yang sudah ada. Seseorang mungkin membuat deepfake di mana Presiden Jokowi menyatakan dukungannya atas kandidat tertentu, atau menuduh kandidat lain sebagai antek PKI.
Ketiga, deepfake juga bisa menjadi bentuk hoaks yang efisien. Jika seseorang cukup terlatih, bahkan pada tingkat yang paling minimal sekalipun, dia bisa membuat banyak konten deepfake yang realistis dalam waktu singkat, biasanya dengan bantuan AI generatif.
