Mendengar istilah AI (Artificial Intelligence), banyak orang merasa optimis. Masa depan teknologi dengan AI akan dapat membantu lebih banyak aspek kehidupan manusia. Dari demam GPT, Midjourney, sampai Photoshop Generative Fill hanya bagian kecil dari AI. Sedang potensinya lebih banyak dari AI yang cukup populer.
AI menjadi teknologi yang dapat melakukan berbagai (bahkan menggantikan) tugas manusia. AI telah banyak dilatih untuk mengenali pola, mengambil keputusan, dan belajar dari Big Data. AI tentu memiliki banyak manfaat bagi kehidupan manusia, seperti membantu menyelesaikan masalah pendidikan, kesehatan, lingkungan, dan ekonomi.Â
Walau secara etis, kini banyak negara tengah mengatur batasan dan penggunaan AI. Perdebatan antara negara, akademisi, teknokrat, dan korporasi terkait etika AI cukup sengit. Karena selain aspek-aspek di atas, AI juga berpotensi berbahaya bagi demokrasi sebuah negara antara lain:
Ketimpangan data. Akses masyarakat pada data dan penggunaannya oleh AI masih timpang. Beberapa kelompok masyarakat akhirnya tidak memiliki akses terkait data seperti pengumpulan, pengolahan, maupun pemanfaatan. Diskriminasi, marginalisasi, dan ketidakadilan terjadi bagi mereka yang minim akses ke AI dan manfaatnya.
Pengawasan massal (mass surveillance). AI yang lebih berkembang, bisa digunakan untuk mengumpulkan, menganalisis, dan menyimpan data pribadi tanpa izin. Data ini pun digunakan untuk mengontrol, memantau, atau mengintervensi perilaku masyarakat atas nama stabilitas dan narasi anti-teror.
Kehilangan otonomi. Saat AI mengambil alih peran manusia, hal ini dapat mengurangi keterlibatan, partisipasi, dan tanggung jawab masyarakat dalam proses demokrasi. Digdaya AI yang tanpa kontrol juga mungkin mengancam hak asasi manusia, seperti hak atas privasi, kebebasan berekspresi, atau hak untuk menentukan nasib sendiri.
Manipulasi informasi. ChatGPT bisa digunakan untuk menghasilkan atau menyebarkan narasi palsu, menyesatkan, atau tidak akurat. Untuk kemudian digunakan dalam propaganda dengan konten deepfake. Konten AI macam ini mudah mempengaruhi opini publik, mempolarisasi, dan mendisrupsi Pemilu atau pembuatan kebijakan.
Karena Pemilu menjadi helatan penting demokrasi, AI pun dapat menimbulkan ancaman. Bagi para penyelenggaraan Pemilu 2024 di Indonesia, AI bisa memproduksi disinformasi dan kampanye hitam. Walaupun ada manusia dibalik kampanye berbasis AI ini, tapi dampak dan distribusinya akan lebih  berbahaya dan luas.
Disinformasi merupakan informasi menyesatkan yang sengaja disebarkan. Sedang kampanye hitam berbentuk kampanye negatif yang bertujuan untuk merusak citra atau reputasi tanpa etika atau aturan. Kedua hal ini dapat mempengaruhi opini publik dan perilaku pemilih dalam Pemilu 2024.
Bayangkan jika AI digunakan untuk membuat dan menyebarkan hal negatif di atas. Diproduksi dan disebarkannya pun dengan cara yang lebih canggih, cepat, dan murah daripada metode konvensional. Sehingga, bisa diprediksi beberapa contoh ancaman AI dalam Pemilu 2024 nanti, jikapun terjadi.
