Deepfake. Deepfake adalah teknik AI untuk menghasilkan gambar, video, atau audio palsu yang sangat realistis. Dengan beberapa langkah seseorang bisa mengganti wajah, suara, atau gerak tubuh seseorang dengan orang lain.Â
Di lapangan, deepfake bisa digunakan untuk membuat konten-konten yang menipu, memfitnah, atau menghasut pemilih. Konten deepfake ini akan menampilkan kandidat atau tokoh politik melakukan atau mengatakan hal-hal kontroversial. Misalnya, video deepfake Capres yang berpidato rasis, provokatif, atau menyinggung SARA.
Chatbot. Chatbot sebagai inovasi AI untuk berkomunikasi melalui teks atau suara yang natural. GhatGPT dan Bard mungkin dua contoh chatbot yang cukup populer dan memberikan banyak kegunaan saat ini.
Chatbot bisa digunakan membuat konten hoaks atau disinformasi. Misalnya, chatbot akan mengirim info viral palsu kepada pemilih. Kontennya akan diklaim dari kandidat, tim sukses, atau lembaga survei. Narasinya jelas memberikan informasi salah atau menyesatkan tentang parpol, peserta, dan penyelenggara Pemilu.
Generative adversarial network (GAN). GAN sebagai inovasi AI yang menghasilkan gambar, teks, atau data baru yang mirip dengan data asli. Midjourney menjadi contoh yang cukup populer dan dianggap lebih canggih dari fotografer dan editor.
Saat Pemilu, GAN bisa digunakan untuk membuat konten palsu yang sulit dibedakan dari konten asli. Misalnya, gambar sintetis yang meniru laporan media lokal. Narasinya keliru mengklaim seorang kandidat mundur dari pencalonan. Teks sintetis pun akan meniru gaya bahasa peserta Pemilu dengan hoaks untuk memanipulasi opini publik.
Sehingga potensi ancaman AI di atas mungkin merusak integritas dan kredibilitas Pemilu 2024 di Indonesia. Oleh karena itu, perlu adanya upaya untuk mencegah dan menangkal penggunaan AI. Dalam hal ini bertujuan negatif untuk Pemilu 2024. Beberapa upaya yang dapat dilakukan adalah:
- Meningkatkan literasi digital dan kritis masyarakat agar dapat membedakan antara informasi benar dan salah, serta tidak mudah terpengaruh oleh konten-konten palsu.
- Mendorong partisipasi aktif masyarakat dalam melaporkan dan mengecek fakta terkait konten-konten politik yang tersebar di media sosial atau internet.
- Menguatkan peran dan kapasitas lembaga penegak hukum, Kepolisian, penyelenggara dan pemantau Pemilu dalam mengawasi dan menindak produsen hoaks dan fitnah berbasis AI.
- Membangun kerjasama antara pemerintah, akademisi, media, organisasi masyarakat sipil, dan sektor swasta dalam mengembangkan dan menerapkan standar etika dan regulasi terkait penggunaan AI dalam konteks politik.
AI memang inovasi teknologi yang berpotensi besar untuk membantu proses demokrasi. Namun di sisi lain AI juga memiliki risiko besar untuk merusak proses demokrasi, apalagi di saat Pemilu. Menjadi waspada, bijak, dan bertanggung jawab dalam menggunakan dan menghadapi AI dalam Pemilu 2024 di Indonesia menjadi prioritas.
Secara fundamental, AI dalam demokrasi sebuah negara harus diatur dengan baik dan transparan oleh semua pihak. Tujuannya adalah untuk memastikan bahwa AI digunakan untuk meningkatkan kesejahteraan masyarakat dan menjaga nilai-nilai demokrasi, seperti keadilan, kesetaraan, partisipasi, dan akuntabilitas dalam Pemilu.
Salam,
Wonogiri, 31 Mei 2024
