Apa Itu Deepfake? Dampak Beserta Contohnya

Perkembang teknologi menjadi semakin baik dalam menirukan realitas. dan ada banyak sekali media yang dihasilkan oleh kecerdasan buatan (AI), hal tersebut telah menjadi topik utama yang serius  diperbincangkan terutama dalam pembuatan video yang dirancang untuk meniru seseorang, sehingga tampak seolah-olah mereka mengatakan atau melakukan sesuatu yang sebenarnya tidak pernah dilakukan.

Seorang streamer Twitch tertangkap di sebuah situs web karena membuat pornografi yang dihasilkan oleh AI dari teman-temannya. Sekelompok siswa di New York membuat video kepala sekolah mereka yang mengucapkan kata-kata rasis dan mengancam para siswa. Di Venezuela, video-video tersebut digunakan untuk menyebarkan propaganda politik.

Dalam ketiga kasus tersebut, video yang dihasilkan oleh AI dibuat dengan tujuan untuk meyakinkan Anda bahwa seseorang melakukan sesuatu yang sebenarnya tidak pernah mereka lakukan. Ada istilah untuk konten semacam ini: Pemalsuan.

Apa itu deepfake ?

Deepfakes menggunakan AI untuk menghasilkan video atau audio yang benar-benar baru, dengan tujuan akhir untuk menggambarkan sesuatu yang sebenarnya tidak pernah terjadi.

 Istilah "deepfake" berasal dari teknologi yang mendasarinya, algoritma pembelajaran mendalam.  Algoritme ini menggunakan data dalam jumlah besar untuk mempelajari cara memecahkan masalah  dan dapat digunakan untuk membuat konten palsu dari orang sungguhan. 

"Deepfake adalah rekaman yang dihasilkan oleh komputer yang telah dilatih melalui gambar-gambar yang tak terhitung jumlahnya," kata Cristina Lpez, seorang analis senior di Graphika, sebuah perusahaan yang meneliti aliran informasi di jaringan digital.

 Teknologi ini pertama kali muncul pada tahun 2017 dan terus berkembang dan semakin canggih dalam mengubah wajah dan suara seseorang dalam video. 

Bahaya Deepfake

Teknologi deepfake, yang memungkinkan video dan audio dimanipulasi untuk membuat adegan dan suara tampak seolah-olah berasal dari orang sungguhan, mempunyai implikasi yang signifikan, Yaitu :

• Digunakan untuk menyebarkan video palsu atau  manipulatif.

Dampaknya dapat merusak reputasi seseorang dan berujung pada penyalahgunaan untuk tujuan kriminal seperti penipuan dan pemerasan. Selain itu, deepfake juga dapat ditujukan untuk meratas sistem keamanan menggunakan teknologi pengenalan wajah dan suara. 

• Privasi yang Rentan

Deepfake merupakan ancaman besar karena menawarkan kemungkinan rekaman vidio dan audio palsu yang menunjukkan seseorang berada dalam situasi yang sebenarnya tidak terjadi. Hal ini dapat merugikan individu baik secara pribadi maupun profesional serta meningkatkan risiko manipulasi dan pelecehan.

•  Implikasi terhadap gambar dan hak cipta

Deepfake dapat merusak citra  dan reputasi seseorang. Konten yang menggambarkan orang-orang dalam situasi atau perilaku yang tidak pantas dapat berdampak signifikan terhadap persepsi masyarakat terhadap orang tersebut.

• Etika dan Kontroversi

Kontroversi dan tantangan etika muncul seiring penggunaan deepfake yang tidak etis. Hal ini dapat merusak kepercayaan masyarakat terhadap informasi dan media, serta menimbulkan masalah hukum dan regulasi terkait privasi dan keamanan. Penggunaan teknologi ini secara tidak benar dapat menciptakan kerentanan terhadap dampak sosial dan kebijakan yang mungkin merugikan.

Contoh kasus deepfake yang terbublikasikan tahun 2024

• Krisis pornografi deepfake di korea selatan

Dilansir dari KOMPAS.com - Penyebaran konten pornografi deepfake melalui aplikasi Telegram sedang menjadi persoalan serius di Korea Selatan belakangan ini. Dikutip dari NPR, dalam tujuh bulan pertama 2024, polisi telah menerima 297 laporan kasus pelanggaran pornografi deepfake. Angka tersebut naik hampir dua kali lipat dari 2021, saat pertama kali kasus deepfake dilaporkan. Korban pornografi deepfake menyasar berbagai kalangan, mulai dari siswa sekolah, guru, mahasiswa, bahkan jurnalis perempuan.

• Presiden jokowi berpidato menggunakan bahasa mandarin menjelang pemilu 2024

Dilansir Liputan6.com, Jakarta - Media sosial ramai dengan sebuah video yang memperlihatkan Presiden Joko Widodo alias Jokowi berpidato dengan bahasa Mandarin. Dalam video tersebut seolah Jokowi begitu fasih berbahasa Mandarin.

Namun, informasi ini segera ditanggapi oleh Kementerian Komunikasi dan Informatika (Kominfo). Melalui keterangan pers yang diterima Tekno Liputan6.com, Kamis (26/10/2023), video Presiden Jokowi tengah berpidato dalam bahasa Mandarin itu adalah disinformasi.