Salah satu ancaman terbesar bagi era digital saat ini adalah video deepfake, terutama di tengah musim kampanye politik dan peningkatan penyebaran hoaks di seluruh dunia. Deepfake adalah teknologi berbasis kecerdasan buatan (AI) yang memungkinkan seseorang untuk memanipulasi rekaman audio dan video sehingga terlihat seperti orang lain mengatakan atau melakukan sesuatu yang sebenarnya tidak terjadi. Meskipun awalnya dimaksudkan untuk hiburan dan kreativitas, teknologi ini sekarang digunakan untuk tujuan yang jauh lebih berbahaya, terutama dalam politik dan kampanye.
Bahaya Deepfake di Tengah Musim Kampanye
Penyebaran informasi palsu dan manipulasi media sering terjadi selama musim kampanye politik. Para kandidat politik seringkali kesulitan mendapatkan dukungan dan simpati publik. Namun, situasi ini menjadi lebih kompleks karena kehadiran deepfake. Deepfake dapat digunakan dalam kampanye politik untuk merusak reputasi seorang kandidat dengan menampilkan mereka melakukan atau mengatakan hal-hal yang tidak pernah terjadi. Misalnya, sebuah video deepfake dapat digunakan untuk menampilkan seorang calon legislatif yang berbicara tentang ide-ide yang kontroversial atau mendukung kebijakan yang tidak disukai. Video manipulatif yang menargetkan tokoh politik untuk menyebarkan disinformasi meningkat selama pemilu, menurut New York Times (Schwartz, 2020).
Video deepfake dapat merusak citra seseorang dan mengacaukan kepercayaan masyarakat terhadap informasi yang disebarkan. Video asli dan deepfake seringkali sulit dibedakan di tengah arus berita dan media sosial. Ini terutama berlaku untuk video yang dibuat secara realistis. Ini memberikan kesempatan yang sangat baik bagi para aktor kejam untuk mengubah perspektif publik dan membuat mereka bingung. Jika digunakan dalam kampanye politik, deepfakes memiliki kemampuan untuk memecah belah masyarakat dengan cepat karena orang lebih cenderung percaya pada apa yang mereka lihat daripada memeriksa kebenaran.
Bahaya Hoaks yang Memecah Belah Kerukunan Warga Dunia
Selain di bidang politik, deepfake juga telah berkembang menjadi alat yang berbahaya untuk menyebarkan hoaks yang memecah belah hubungan antarmanusia di seluruh dunia. Hoaks, juga dikenal sebagai berita palsu, telah menjadi alat penting untuk menimbulkan kekacauan di masyarakat dan mengganggu keharmonisan di banyak negara. Jika deepfake dan hoaks digabungkan, hasilnya bisa sangat berbahaya. Sebagai contoh, sebuah video yang tampaknya menampilkan pernyataan provokatif dari seorang pemimpin agama atau tokoh masyarakat dapat dengan mudah memicu konflik agama atau etnis di wilayah yang sensitif.
Menurut Human Rights Watch, kelompok ekstremis dapat menggunakan teknologi deepfake untuk menyebarkan pesan kebencian atau provokasi yang dapat memicu kekerasan fisik atau konflik bersenjata (Wang, 2019). Video seperti ini dapat menyebar dengan sangat cepat di dunia yang semakin terhubung secara digital, mempengaruhi jutaan orang dalam hitungan jam dan melintasi batas negara dan budaya. Pihak yang ingin mengganggu komunitas atau negara dapat menggunakan deepfake untuk menimbulkan ketidakpercayaan dan memperburuk konflik yang sudah ada.
Ancaman Terhadap Privasi dan Keamanan Individu
Teknologi deepfake tidak hanya digunakan untuk memanipulasi persepsi publik, tetapi juga mengancam privasi dan keamanan individu. Orang biasa, termasuk selebritas, pejabat pemerintah, atau bahkan orang awam, dapat menjadi target dari video deepfake yang dapat merusak reputasi mereka. Deepfake telah digunakan untuk membuat konten yang tidak benar yang melibatkan orang dalam situasi yang memalukan atau bahkan melanggar hukum, seperti video pornografi yang tidak benar atau konten yang merusak karakter seseorang tanpa sepengetahuan atau persetujuan mereka (Forbes, 2020).
Selain itu, deepfake memungkinkan kejahatan siber seperti pemerasan dan penipuan. Bayangkan situasi di mana seseorang membuat deepfake video yang menunjukkan seorang pejabat pemerintah atau bisnis melakukan sesuatu yang tidak pantas atau melanggar undang-undang, kemudian menggunakan video tersebut untuk memeras korban. Kejahatan seperti ini tidak hanya merugikan orang yang menjadi target, tetapi juga dapat menyebabkan kerugian finansial dan reputasi yang signifikan.
Perlu Kebijakan dan Teknologi Deteksi yang Lebih Kuat
Untuk mengatasi penyebaran deepfake, pemerintah dan perusahaan teknologi harus mengembangkan kebijakan dan alat deteksi yang lebih kuat. Saat ini, ada beberapa alat yang dapat mendeteksi video deepfake, tetapi mereka perlu diperkuat.
Deepfake Detection adalah teknik yang dapat mendeteksi dan memastikan keaslian video berdasarkan gesture dan persona seseorang dalam Computer Vision. Secara lebih spesifik, teknik dan model yang digunakan untuk mendeteksi video ini melibatkan analisis gesture, microexpressions, dan persona seseorang. Istilah dan teknologi yang terkait berikut :
- Dengan menggunakan Convolutional Neural Networks (CNN), deteksi deepfake: CNN adalah jaringan saraf yang digunakan dalam analisis visual untuk menemukan anomali dalam video deepfake. Teknologi ini mendeteksi kejanggalan seperti ketidaksesuaian gerakan bibir dan suara atau bayangan atau pencahayaan melalui pengamatan pola gerak, tekstur wajah, dan transisi antara frame video.
- Analisa Biometrik Perilaku adalah pendekatan yang digunakan untuk mempelajari gesture (gerak tubuh), posture (postur), dan gait (gaya berjalan). Teknologi ini mengidentifikasi sifat seseorang melalui gerakan dan reaksi mereka. Sangat sering, perbedaan kecil dalam gerakan atau perilaku non-verbal dapat menunjukkan bahwa video tersebut adalah rekayasa daripada yang sebenarnya.
- Facial Dynamics Analysis: Teknologi ini berfokus pada analisis micro-expressions, yang merupakan ekspresi wajah halus yang sering terjadi secara tidak sadar dan sangat sulit untuk direkayasa oleh deepfake. Sistem ini menganalisis bagaimana otot-otot wajah bergerak selama berbicara atau ekspresi emosional, mencari ketidakkonsistenan yang tidak mungkin terjadi secara alami.
- Deteksi inconsistensi waktu adalah teknik untuk menemukan perubahan dalam gerakan dari frame ke frame dalam video. Teknologi ini mengevaluasi apakah gerakan seperti kedipan mata, gerakan kepala, atau ekspresi wajah seseorang terjadi secara alami atau jika ada penundaan atau kejanggalan yang menunjukkan bahwa video tersebut telah dimanipulasi.
- Head Pose Estimation and Eye Blinking Patterns: Pola kedipan mata menganalisis kedipan mata yang mungkin terlihat tidak alami atau terlalu jarang dalam video deepfake. Head Pose Estimation mengukur gerakan dan orientasi kepala dalam ruang 3D.
- Deteksi Generative Adversarial Networks (GANs): GANs membuat banyak video deepfake yang berkualitas tinggi. Namun, metode pengenalan GAN melihat karakteristik unik yang dihasilkan oleh GAN, seperti suara atau artefak visual yang sering muncul di tepi wajah atau transisi halus antara gerakan wajah.
- Teknik Penggabungan Multimodal: Teknologi ini menggabungkan data dari berbagai sumber, seperti teks, video, dan suara, untuk mengevaluasi apakah ada ketidaksesuaian antara komponen. Misalnya, untuk mengidentifikasi deepfake, dapat diperiksa bagaimana gerakan bibir dan suara selaras, serta bagaimana ekspresi wajah selaras dengan emosi yang disampaikan melalui suara.
Perusahaan teknologi harus pertama-tama terus mengembangkan alat pendeteksi deepfake yang lebih canggih. Seperti yang telah dilakukan oleh beberapa perusahaan besar, mereka harus meningkatkan algoritma deteksi deepfake yang berbasis ML dan visi komputer yang dapat menganalisis video dengan ketelitian tinggi. Algoritma ini harus dapat mengidentifikasi perubahan cahaya, kedipan mata, dan pola gerak wajah yang tidak sesuai, yang seringkali merupakan indikasi bahwa video tersebut telah dimanipulasi. Selain itu, perusahaan teknologi harus menyediakan alat ini secara luas untuk masyarakat dan penegak hukum.
Kedua, regulasi yang jelas tentang penggunaan teknologi deepfake harus dibuat oleh pemerintah dan pembuat kebijakan. Sangat penting untuk menerapkan hukuman tegas terhadap individu yang sengaja menyebarkan video deepfake dengan tujuan menipu, memfitnah, atau memecah belah masyarakat. Regulasi harus melindungi privasi dan hak-hak individu agar mereka tidak menjadi korban penggunaan deepfake yang merugikan. Di sisi lain, pemerintah harus bekerja sama dengan platform media sosial untuk memastikan bahwa konten yang disebarkan di sana telah diverifikasi.
Ketiga, platform media sosial sangat bertanggung jawab untuk menemukan dan memfilter konten deepfake sebelum disebarluaskan. Untuk melakukannya, mereka harus memperkuat kebijakan moderasi mereka dengan menggunakan teknologi Computer Vision. Selain itu, penting bagi platform media sosial untuk meningkatkan transparansi dengan memberikan peringatan pada konten yang dicurigai sebagai hasil dari manipulasi deepfake sehingga pengguna dapat berhati-hati sebelum mempercayai atau membagikan konten tersebut.
Keempat, masyarakat sangat berperan dalam memerangi penyebaran deepfake. Pendidikan tentang risiko deepfake dan cara membedakannya harus diperluas. Dengan memahami mekanisme deepfake, masyarakat dapat menjadi lebih waspada dan tidak mudah percaya pada informasi visual. Selain itu, semua orang harus lebih berhati-hati dengan apa yang mereka bagikan di media sosial, terutama saat kampanye politik atau konflik sosial terjadi.
Kelima, penegak hukum harus diperlengkapi dengan sumber daya dan teknologi yang diperlukan untuk menyelidiki dan menangani kasus deepfake. Untuk membantu penegakan hukum memerangi kejahatan digital dengan lebih baik, para ahli di bidang kecerdasan buatan dan visi komputer dapat dilibatkan.
Metode pencegahan ini dapat mengurangi risiko deepfake video. Meskipun teknologi visi komputer sangat penting, upaya pencegahan ini tidak akan berhasil tanpa bantuan dari semua pihak: pemerintah, perusahaan teknologi, media sosial, masyarakat, dan penegak hukum. Oleh karena itu, untuk menghadapi tantangan ini di era digital yang semakin kompleks, kesadaran kolektif dan tindakan nyata dari seluruh bagian masyarakat sangat penting.
Baca konten-konten menarik Kompasiana langsung dari smartphone kamu. Follow channel WhatsApp Kompasiana sekarang di sini: https://whatsapp.com/channel/0029VaYjYaL4Spk7WflFYJ2H
