Waspada! Deepfake AI Mampu Membuat Disinformasi Jelang Pemilu 2024

Waspada! Deepfake AI Mampu Membuat Disinformasi Jelang Pemilu 2024

JAKARTA, -Sebuah video yang menampilkan Presiden Joko Widodo (Jokowi) sedang memberikan pidato dalam bahasa Mandarin telah beredar di berbagai platform digital, beberapa waktu lalu. 

Dalam beberapa versi video, ada narasi yang menyatakan "Jokowi berbicara dalam bahasa Mandarin." Namun, Kementerian Komunikasi dan Informatika Republik Indonesia telah dengan tegas menyatakan bahwa video tersebut adalah hasil penyuntingan yang menyesatkan.

Secara visual, video tersebut sangat mirip dengan rekaman yang diunggah ke kanal YouTube The U.S. - Indonesia Society (USINDO) pada 13 November 2015. Namun, telah disunting secara cermat dengan kemungkinan penggunaan teknologi kecerdasan buatan , Artificial Intelligence (AI) yang dikenal sebagai "deepfake."

Demikian pernyataan resmi Kominfo seperti dikutip dari laman berita Kominfo.go.id (26/10/2023). Sumber berita selengkapnya di sini: https://www.kominfo.go.id/content/detail/52553/disinformasi-video-pidato-presiden-jokowi-diduga-menggunakan-bahasa-mandarin/0/laporan_isu_hoaks.

Kominfo juga menjelaskan bahwa fakta yang sebenarnya adalah bahwa Presiden Jokowi tidak pernah menggunakan bahasa Mandarin dalam pidatonya. Oleh karena itu, video ini adalah bentuk disinformasi yang mencoba menyesatkan opini masyarakat.

Ulasan pendek ini tentang ajakan, pentingnya bersikap waspada terhadap kemunculan fenomena disinformasi yang memakai teknologi AI "Deepfake" terutama saat menjelang pemilu 2024.

disinformasi yang memuat presiden Jokowi pidato berbahasa Mandarin (sumber image: Kominfo.go.id) 

Pertanyaannya, apakah teknologi AI "Deepfake" itu?

Deepfake adalah istilah yang mengacu pada teknologi yang memanipulasi atau menciptakan konten multimedia (seperti video, audio, atau gambar) dengan menggunakan kecerdasan buatan (AI) untuk menciptakan rekaman yang terlihat dan terdengar sangat meyakinkan, padahal itu informasi palsu.

Kata "deepfake" sendiri berasal dari penggabungan kata "deep learning" (pembelajaran mendalam) dan "fake" (palsu). Jadi deepfake berbasis AI memang dipakai untuk menciptakan informasi palsu, terkait video, audio dan foto seseorang.

Sejarah Singkat

Deepfake berbasis kecerdasan buatan (AI) adalah teknologi yang telah berkembang pesat dalam beberapa tahun terakhir. Sejarah singkatnya, sebagai berikut:

2017: Istilah "deepfake" muncul pertama kali. Ini merujuk pada teknik penggunaan deep learning, terutama jaringan saraf berbasis generatif (GAN), untuk menciptakan video yang sangat realistis dari wajah-wajah orang dalam video yang berbeda.

2018: Teknologi deepfake mulai mendapatkan perhatian media dan masyarakat secara luas. Banyak deepfake yang muncul di platform media sosial dan situs web berbagi video, seperti Youtube.

2019: Deepfake mulai digunakan dalam berbagai konteks, termasuk politik, hiburan, dan pornografi palsu. Hal ini menimbulkan keprihatinan banyak kalangan tentang potensi penyalahgunaan teknologi ini di dunia maya.

2020: Keprihatinan terus tumbuh ketika deepfake digunakan dalam pemilihan umum dan kampanye politik di berbagai negara. Ini menyebabkan upaya untuk mengatasi penyebaran deepfake.

2021 dan Sekarang: Pengembangan teknologi deepfake terus berlanjut, membuat deepfake menjadi semakin canggih dan sulit untuk dideteksi. Namun, seiring dengan perkembangan teknologi, juga ada peningkatan kesadaran dan upaya regulasi di beberapa negara untuk melawan penyalahgunaan deepfake.

Sejarah deepfake menunjukkan bagaimana teknologi ini telah berkembang pesat dan menghadirkan tantangan baru dalam hal disinformasi dan pemalsuan konten multimedia.

Karena potensi dampak negatifnya, penting untuk terus memantau perkembangan deepfake dan mengambil langkah-langkah untuk mengatasi penyalahgunaan teknologi ini.

Dipakai untuk Berbagai Tujuan

Teknologi deepfake di dunia maya dibuat dan dapat digunakan orang untuk berbagai tujuan, seperti:

Manipulasi Video: Deepfake dapat digunakan untuk mengubah wajah, ekspresi, atau gerakan tubuh orang dalam video. Ini memungkinkan seseorang untuk membuat video yang tampak asli seperti orang terkenal yang mengucapkan hal-hal yang sebenarnya tidak mereka katakan.

Manipulasi Audio: Deepfake juga dapat digunakan untuk menciptakan rekaman suara yang terdengar persis seperti logat seseorang yang sedang berbicara, meskipun mereka tidak pernah mengucapkannya. Ini dapat digunakan untuk menciptakan rekaman percakapan palsu atau pesan suara palsu.

Manipulasi Citra/foto: Selain video dan audio, deepfake juga dapat digunakan untuk mengedit atau menciptakan gambar yang tampak sangat meyakinkan. Ini dapat digunakan untuk memanipulasi foto atau gambar individu.

Maka wajarlah, bahwa deepfake telah menimbulkan keprihatinan luas karena potensi penyalahgunaannya. Penggunaan deepfake yang jahat dapat menciptakan disinformasi, memfitnah individu, atau bahkan merusak reputasi seseorang.

Misalnya, jika dipakai untuk kampanye hitam (black campaign) dalam pemilu, deepfake dapat merusak reputasi calon atau lawan politik melalui disinformasi atau informasi palsu.

Oleh karena itu, banyak negara sedang mengembangkan undang-undang dan regulasi untuk mengatasi penggunaan deepfake yang merugikan. Kesadaran masyarakat tentang potensi adanya deepfake dan pendidikan literasi media menjadi hal yang sangat penting dalam melindungi diri dari dampak negatif teknologi ini.

Fenomena Deepfake di banyak negara

Mengapa kita perlu waspada pada kehadiran teknologi deepfake terutama saat menjelang pemilu 2024? Sebab fenomena deepfake untuk kepentingan bidang politik berupa disinformasi yang merusak citra atau kredibilitas seseorang benar benar berpengaruh menyesatkan opini publik di kalangan pemilih.

Contohnya, beberapa kasus pernah terjadi di beberapa negara, antara lain deepfake dipakai dalam kampanye politik palsu dan upaya propaganda online.

Amerika Serikat: Penggunaan deepfake dalam konteks politik selama pemilihan presiden terutama mencapai puncaknya pada tahun 2020, tetapi perhatian awal terhadap teknologi deepfake dimulai sekitar tahun 2017-2018.

India: Deepfake dalam politik India telah menjadi lebih umum selama beberapa tahun terakhir, dengan peningkatan perhatian pada tahun 2019 dan seterusnya.

China: Penggunaan deepfake dalam industri hiburan China telah ada sejak beberapa tahun terakhir, dengan penggunaan yang lebih meningkat pada tahun 2019 dan seterusnya.

Eropa: Deepfake dalam konteks politik Eropa mulai mencapai perhatian pada tahun 2020 dan seterusnya.

Rusia: Penggunaan deepfake dalam kampanye politik dan propaganda di Rusia telah menjadi semakin umum sejak sekitar tahun 2019.

Penggunaan deepfake dalam konteks politik dan sosial dapat mengganggu demokrasi, menciptakan ketidakpercayaan dalam informasi, dan mengganggu stabilitas masyarakat. Oleh karena itu, banyak negara sedang berusaha untuk mengembangkan undang-undang dan regulasi yang mengatasi penggunaan deepfake yang merugikan.

Selain itu, kesadaran masyarakat tentang kemungkinan adanya deepfake dan pendidikan literasi media menjadi hal yang sangat penting untuk melindungi masyarakat dari potensi dampak negatif teknologi ini.

Bagaimana Mencegah Dampak Negatif Deepfake?

Menurut catatan penulis, mencegah penyebaran dan dampak negatif deepfake merupakan tantangan yang kompleks, tidak mudah. Tetapi ada beberapa langkah yang mungkin dapat diambil untuk mengurangi risiko. Berikut adalah beberapa cara untuk mencegah deepfake:

Pendidikan Literasi Media: Pendidikan literasi media adalah kunci. Semakin orang memahami bagaimana deepfake dibuat dan bagaimana cara mendeteksinya, semakin sulit bagi penyebar disinformasi untuk berhasil. Kampanye pendidikan dan pelatihan literasi media harus diperkuat, dan ini bisa dimulai di tingkat sekolah.

Verifikasi Sumber: Selalu verifikasi sumber informasi sebelum mempercayai atau menyebarkannya. Pastikan Anda mendapatkan informasi dari sumber yang terpercaya, dan jika ada keraguan, cari lebih banyak sumber yang bisa memverifikasi informasi tersebut.

Perbarui Keamanan Digital: Jika Anda adalah individu atau organisasi yang sering mempublikasikan video atau audio, pertimbangkan untuk meningkatkan keamanan digital Anda. Ini bisa mencakup penggunaan enkripsi, pengamanan akses ke perangkat, dan penggunaan tanda tangan digital untuk menunjukkan bahwa konten tersebut tidak dipalsukan.

Perbarui Hukum dan Regulasi: Pemerintah perlu mempertimbangkan perbarui hukum dan regulasi yang mencakup deepfake. Ini dapat mencakup pengenalan undang-undang yang melarang penggunaan deepfake dalam konteks tertentu, serta pembentukan aturan yang mengatur penyiaran deepfake.

Alat Deteksi Deepfake: Pengembangan dan penggunaan alat deteksi deepfake adalah salah satu solusi. Berbagai perusahaan dan peneliti sedang berusaha untuk mengembangkan teknologi yang dapat mendeteksi deepfake dengan tingkat keberhasilan yang tinggi.

Keterbukaan dan Transparansi: Platform media sosial dan situs web lainnya perlu menjadi lebih transparan dalam cara mereka mengelola dan memoderasi konten. Ini dapat membantu mengidentifikasi dan menghapus deepfake yang muncul di platform tersebut.

Kesadaran Masyarakat: Penting untuk meningkatkan kesadaran masyarakat tentang bahaya deepfake jika disalahgunakan dan bagaimana cara mengidentifikasinya. Ini dapat dilakukan melalui kampanye informasi, seminar, dan sumber daya pendidikan.

Mencegah deepfake adalah tantangan serius yang terus berkembang karena teknologi terus bergerak maju dengan cepat. Maka kombinasi antara pendidikan, regulasi, dan teknologi yang lebih baik akan membantu melindungi masyarakat dari dampak negatif deepfake.

Kementerian Komunikasi dan Informatika sendiri telah mendorong masyarakat untuk tetap waspada ketika menerima informasi yang bisa dimanipulasi atau dimanfaatkan untuk menyebarkan disinformasi. Anjuran ini seperti dikutip di laman berita Kominfo (26/10/2023), di kominfo.go.id

Masyarakat juga diingatkan untuk selalu merujuk ke sumber informasi yang terpercaya, seperti situs web resmi pemerintah atau media yang memiliki reputasi kredibel.

SELESAI -penulis adalah praktisi Televisi Siaran dan pemerhati media massa, tinggal di Jakarta.