Penyalahgunaan AI untuk Pencemaran Nama Baik di Media Sosial

Kecerdasan buatan merupakan teknologi yang mengacu pada simulasi kecerdasan manusia yang diprogram ke dalam suatu media elektronik untuk berpikir layaknya manusia dan meniru tindakan manusia. Dan kecerdasan buatan sekarang sangat banyak dan bisa digunakan untuk mempermudah hidup manusia.

Pada era digital, teknologi deepfake (kecerdasan buatan) telah menjadi ancaman serius, terutama dalam kasus kejahatan seksual dan pencemaran nama baik. Teknologi ini memungkinkan seseorang memanipulasi video atau audio hingga tampak seperti orang lain yang melakukan sesuatu, padahal hal tersebut tidak pernah terjadi. Deepfake sering digunakan untuk membuat video pornografi palsu, di mana wajah korban ditempelkan ke tubuh orang lain tanpa persetujuan mereka.

Pengertian Deepfake

Deepfake merupakan teknik sintetis citra manusia yang berdasarkan pada kecerdasan buatan/ AI. Deepfake digunakan untuk menggabungkan serta menempatkan gambar dan video yang ada ke sumber gambar atau video menggunakan teknik mesin belajar yang dikenal sebagai jaringan generatif adversarial (GAN). Teknologi deepfake sendiri sebenarnya baru populer di tahun 2017 melalui pengguna forum Reddit. Jaringan generatif adversarial atau GAN ini kemudian dikembangkan melalui TensorFlow sebuah perangkat lunak dari Google untuk menempelkan wajah public figure tertentu ke tubuh perempuan yang ada dalam suatu film porno. Teknologi Deepfake memanfaatkan data berupa wajah dari individu yang merupakan bagian dari data pribadi dan berpotensi untuk disalahgunakan, baik itu untuk tindakan kejahatan seperti, propaganda, pornografi, pencurian identitas ataupun isu privasi terkait lainnya. Semakin canggih deepfake pornografi maka akan semakin mengkhawatirkan. Hal ini dikarenakan teknologi deepfake sangat sulit untuk dideteksi keasliannya oleh masyarakat awam.

Teknologi deepfake tidak sama dengan filter bertukar wajah (face-swapping) yang mungkin banyak digunakan di media sosial. Filter tersebut memungkinkan pengguna dapat menempatkan wajahnya di wajah teman pengguna, tetapi karena filter tersebut mentransfer fitur wajah dan ekspresi, maka si pengguna tetap dapat mengontrolnya. Sedangkan deepfake berbeda. Para pelaku dapat mengambil fitur wajah korban sendiri dan menghidupkan wajah si korban dengan ekspresi orang lain. Itulah yang membuat pelaku pembuatan video deepfake pornografi begitu invasif. Si pelaku mengambil kendali atas wajah korbannya, kemudian menggunakannya untuk sesuatu yang tidak pernah diinginkan oleh si korban. Dengan melakukan hal itu, para pelaku ini terlah berkontribusi pada sejarah panjang pelecehan seksual terhadap perempuan.

Dampak Penyalahgunaan Deepfake di Media Sosial

Penyalahgunaan teknologi deepfake di media sosial memiliki berbagai dampak negatif yang dapat memengaruhi individu maupun masyarakat secara luas, antara lain:

1.Penyebaran berita palsu

Salah satu dampak dari Deepfake adalah penyebaran yang tidak tau kebenarannya dan membuat berita yang tidak realistis juga dapat mengubah opini publik, dilakukan untuk mengambil keuntungan pribadi dan merugikan orang lain .

2.Kerusakan reputasi

Penyalahgunaan teknologi deepfake dapat menyebabkan kerusakan reputasi yang serius terutama pada individu maupun dalam bidang lainnya. Kerusakan ini disebabkan karena kemampuan Deepfake menciptakan konten palsu, seperti video, foto maupun audio yang terlihat dan terdengar sangat nyata.

3.Tekanan Psikologis

Sayangnya, bagi kreator digital dan tokoh masyarakat, sebagian besar materi yang dibutuhkan oleh pelaku penyalahgunaan Deepfake  sudah tersedia secara luas melalui podcast, video, foto, buku, atau artikel. Penelitian tentang penyalahgunaan Deepfake dan pencurian identitas menunjukkan bahwa penggunaan Deepfake tanpa izin dapat memicu rasa cemas, stres, serta perasaan dilanggar dan tidak berdaya.

4. Penipuan  dan kejahatan

Khusus kasus penipuan sangat banyak terjadi terutama pada Deepfake yang mana juga merugikan korban dengan berbagai cara seperti menggunakan video atau foto  palsu  dan menggunakan identitas orang lain dengan cara melakukan perasan dan pengancaman

Contoh Kasus Penyalahgunaan Deepfake

Contoh deepfake video adalah Video dari Presiden Ukraina, Volodymyr Zelensky, yang muncul di media sosial pada Maret 2022. Dalam video tersebut, Zelensky tampak menyerukan kepada pasukan bersenjatanya untuk menyerah. Video ini dibuat dengan memanipulasi video asli Zelensky dan menambahkan audio palsu yang membuatnya tampak seperti dia benar-benar mengatakan hal tersebut. Zelensky dengan cepat menanggapi deepfake ini dengan memposting pesan aslinya di Telegram untuk menunjukkan bahwa video tersebut adalah palsu.

Upaya Pencegahaan Penyalahgunaan Deepfake di Media Sosial

Terdapat berbagai upaya penanganan penyalahgunaan deepfake di media sosial agar tidak menimbulkan dampak negatif maupun agar tidak terjadinya penyebaran konten palsu yang lebih meluas, sebagai berikut:

1.Upaya Meningkatkan Kesadaran Masyarakat Tentang Pentingnya Literasi Digital

Meningkatkan kesadaran publik dan konsumsi media yang bertanggung jawab juga merupakan kunci penting untuk mengurangi risiko Deepfake. Inisiatif literasi media bertujuan untuk mendidik publik tentang cara mengidentifikasi dan mengevaluasi konten digital, mencari sumber yang dapat diandalkan, dan melakukan verifikasi fakta, sehingga mengurangi kemungkinan mereka terkena dampak informasi palsu. Dalam hal ini, platform media digital harus bertanggung jawab untuk melakukan verifikasi fakta, menandai konten Deepfake, mendorong pengguna untuk memilih konten yang telah diverifikasi oleh platform, dan secara aktif melaporkan media yang mencurigakan untuk mencegah penyebaran konten Deepfake.

2. Upaya Platfrom Media Sosial untuk Mendeteksi Konten Palsu

Teknologi deteksi dirancang untuk mengenali media digital yang telah dimanipulasi menggunakan algoritma deepfake. Pendekatan ini memanfaatkan analisis mendalam terhadap pola-pola dalam gambar, video, atau audio untuk membedakan antara konten asli dan yang dimodifikasi. Algoritma Machine Learning dilatih pada dataset besar yang mencakup contoh konten asli dan deepfake. Tujuannya adalah untuk mengenali pola-pola unik yang hanya muncul dalam konten deepfake.

3.Upaya Pemerintah untuk Menangani Penyalahgunaan Deepfake

Pemanfaatan internet di masa dewasa ini juga ikut berpengaruh besar dengan kaitannya dalam berbagai bidang kehidupan yang tidak hanya membuat segala sesuatunya menjadi lebih mudah, akan tetapi juga menimbulkan sejumlah permasalahan. Salah satu contoh permasalahan tersebut adalah penggunaan deepfake AI untuk pencemaran nama baik di media sosial. upaya pemerintah menghadirkan regulasi dalam menangani peningkatan kasus pencemaran nama baik di media sosial. Kegunaan regulasi yang mengatur isu pemanfaatan teknologi Artificial Intelligence khususnya penggunaan algoritma deepfake adalah untuk melindungi data-data pribadi seseorang, karena deepfake technology sendiri adalah salah satu perkembangan teknologi yang dikaitkan dengan data pribadi.

Undang-Undang Terkait Penyalahgunaan Deepfake untuk Pencemaran Nama Baik

Pasal 27 UU ITE yang digunakan untuk menjerat pelaku dalam kasus penyebaran informasi berbunyi:

I.Setiap Orang dengan sengaja dan tanpa hak mendistribusikan dan/atau mentransmisikan dan/atau membuat dapat diaksesnya Informasi Elektronik dan/atau Dokumen Elektronik yang memiliki muatan yang melanggar kesusilaan.

II.Setiap Orang dengan sengaja dan tanpa hak mendistribusikan dan/atau mentransmisikan dan/atau membuat dapat diaksesnya Informasi Elektronik dan/atau Dokumen Elektronik yang memiliki muatan perjudian.

III.Setiap Orang dengan sengaja dan tanpa hak mendistribusikan dan/atau mentransmisikan dan/atau membuat dapat diaksesnyaInformasi Elektronik dan/atau Dokumen Elektronik yang memiliki muatan penghinaan dan/atau pencemaran nama baik.

IV.Setiap Orang dengan sengaja dan tanpa hak mendistribusikan dan/atau mentransmisikan dan/atau membuat dapat diaksesnya Informasi Elektronik dan/atau Dokumen Elektronik yang memiliki muatan pemerasan dan/atau pengancaman.

Menurut bunyi pasal UU ITE tersebut, aturan hukum ini hanya dapat menjerat pelaku yang dengan sengaja menyebarkan video yang mengandung muatan melanggar kesusilaan, penghinaan, pencemaran nama baik, pemerasan dan pengancaman saja, tetapi tidak dapat menjerat pelaku pembuat video deepfake pornografi tersebut. Selain itu, Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) juga tidak memiliki kecenderungan membela korban.

Hubungan dengan Ayat Al-Qur’an

Al-Qur'an Surah Al-Hujurat Ayat 6:

يٰٓاَيُّهَا الَّذِيْنَ اٰمَنُوْٓا اِنْ جَاۤءَكُمْ فَاسِقٌۢ بِنَبَاٍ فَتَبَيَّنُوْٓا اَنْ تُصِيْبُوْا قَوْمًا ۢ بِجَهَالَةٍ فَتُصْبِحُوْا عَلٰى مَا فَعَلْتُمْ نٰدِمِيْنَ ۝٦

"Wahai orang-orang yang beriman, jika datang kepadamu seorang fasik membawa suatu berita, maka periksalah dengan teliti agar kamu tidak menimpakan suatu musibah kepada suatu kaum tanpa mengetahui keadaannya yang menyebabkan kamu menyesal atas perbuatanmu itu."

Ayat di atas memerintahkan kita untuk berhati-hati dalam menerima berita yang ada , karna belum belum tentu berita yang kita terima itu benar. Dan jangan juga kita menybarkan brita yang belum tahu kebenarannya, maka itu akan berakibat buruk untuk kita dan orang lain.

Daftar Pustaka:

Akers, D., Bansal, T., Cadamuro, G., et al. (2018). Media literacy and resilience against disinformation: Lessons from combating deepfakes. Cambridge Core, Data & Policy.

Kasita, I. D. (2022). Deepfake pornografi: Tren kekerasan gender berbasis online (KGBO) di era pandemi COVID-19. Jurnal Wanita Dan Keluarga, 3(1), 16-26.

Khusna, I. H., & Pangestuti, S. (2019). DEEPFAKE, TANTANGAN BARU UNTUK NETIZEN (DEEPFAKE, A NEW CHALLENGE FOR NETIZEN). PROMEDIA (PUBLIC RELATION DAN MEDIA KOMUNIKASI), 5(2).

Muchladun, W. (2015). Tinjauan Yuridis Terhadap Tindak Pidana Pencemaran Nama Baik (Doctoral dissertation, Tadulako University).

Seow, J. W., Lim, M. K., Phan, R. C. W., & Liu, J. K. (2022). A comprehensive overview of deepfake: Generation, detection, datasets, and opportunities. Neurocomputing, 513, 351–371. https://doi.org/10.1016/j.neucom.2022.09.135.

Simamora, F. P., Simarmata, L. D., & Lubis, M. A. (2020). Kajian Hukum Pidana Terhadap Perbuatan Pencemaran Nama Baik Melalui Media Sosial. Jurnal Retentum, 2(1).

Tiwari, A. (2024). Leveraging machine learning & deep learning methodologies to detect deepfakes [Master’s thesis, Minnesota State University, Mankato]. Cornerstone: A Collection of Scholarly and Creative Works for Minnesota State University, Mankato. https://cornerstone.lib.mnsu.edu/etds/1428