Perkembang teknologi menjadi semakin baik dalam menirukan realitas. dan ada banyak sekali media yang dihasilkan oleh kecerdasan buatan (AI), hal tersebut telah menjadi topik utama yang serius diperbincangkan terutama dalam pembuatan video yang dirancang untuk meniru seseorang, sehingga tampak seolah-olah mereka mengatakan atau melakukan sesuatu yang sebenarnya tidak pernah dilakukan.
Seorang streamer Twitch tertangkap di sebuah situs web karena membuat pornografi yang dihasilkan oleh AI dari teman-temannya. Sekelompok siswa di New York membuat video kepala sekolah mereka yang mengucapkan kata-kata rasis dan mengancam para siswa. Di Venezuela, video-video tersebut digunakan untuk menyebarkan propaganda politik.
Dalam ketiga kasus tersebut, video yang dihasilkan oleh AI dibuat dengan tujuan untuk meyakinkan Anda bahwa seseorang melakukan sesuatu yang sebenarnya tidak pernah mereka lakukan. Ada istilah untuk konten semacam ini: Pemalsuan.
Apa itu deepfake ?
Deepfakes menggunakan AI untuk menghasilkan video atau audio yang benar-benar baru, dengan tujuan akhir untuk menggambarkan sesuatu yang sebenarnya tidak pernah terjadi.
Istilah "deepfake" berasal dari teknologi yang mendasarinya, algoritma pembelajaran mendalam. Algoritme ini menggunakan data dalam jumlah besar untuk mempelajari cara memecahkan masalah dan dapat digunakan untuk membuat konten palsu dari orang sungguhan.
"Deepfake adalah rekaman yang dihasilkan oleh komputer yang telah dilatih melalui gambar-gambar yang tak terhitung jumlahnya," kata Cristina Lpez, seorang analis senior di Graphika, sebuah perusahaan yang meneliti aliran informasi di jaringan digital.
Teknologi ini pertama kali muncul pada tahun 2017 dan terus berkembang dan semakin canggih dalam mengubah wajah dan suara seseorang dalam video.
Bahaya Deepfake
Teknologi deepfake, yang memungkinkan video dan audio dimanipulasi untuk membuat adegan dan suara tampak seolah-olah berasal dari orang sungguhan, mempunyai implikasi yang signifikan, Yaitu :
- Digunakan untuk menyebarkan video palsu atau manipulatif.