Salah Satu Fitur AI yang Disalahgunakan hingga Melanggar HAM?!

Di tahun 2024, Indonesia digemparkan oleh salah satu fitur Artificial Intelligence (AI) yang mulai memberikan dampak dalam berbagai aspek kehidupan bermasyarakat kita. Salah satu fenomena tersebut adalah perkembangan AI yang disebut dengan Deepfake. Deepfake merupakan sebuah teknologi yang menggunakan AI untuk menciptakan video palsu, di mana wajah seseorang diganti dengan wajah orang lain. Deepfake juga dapat menciptakan konten yang membuat orang terlihat atau terdengar melakukan hal-hal yang sebenarnya tidak mereka lakukan. 

Awal mula Deepfake ada pada tahun 2017, teknologi ini diciptakan untuk memodifikasi video dan audio yang dibutuhkan terutama di bidang industri hiburan dan produksi film. Penggunaan Deepfake dalam produksi film seperti penciptaan efek visual yang lebih realistis dan mendalam. Para pembuat film sekarang dapat menghadirkan karakter fiksi dengan detail yang diharapkan oleh imajinasi atau bahkan menghidupkan kembali aktor yang telah meninggal. Meskipun penggunaan Deepfake untuk tujuan kreatif sangat menarik, kehadiran teknologi ini ternyata juga membawa potensi ancaman yang serius pada bidang lain jika disalahgunakan oleh manusia. Deepfake dapat dengan mudah digunakan untuk melakukan penipuan, pemalsuan, dan penyebaran informasi palsu. Dampaknya bisa merusak reputasi seseorang, memicu konflik sosial, atau bahkan merusak stabilitas politik dan ekonomi. Tidak jarang, korbannya mengalami stress karena mendapatkan reputasi buruk di lingkungan sosialnya. Terlebih, kini masih banyak masyarakat yang mudah menerima informasi secara ‘mentah’ meski melalui sumber yang tidak kredibel.

Deepfake comparison / frontiersin.org

Ada satu masalah yang bermunculan akibat Deepfake yang  tentu menjadi kekhawatiran publik, khususnya bagi mereka yang aktif bersosial media. Apakah teman-teman pernah mendengar dengan istilah Deepfake porn? 

Secara singkat, Deepfake porn merupakan fenomena kekerasan seksual dengan merubah wajah di foto/video porno berbantuan AI yang sebagian besar korbannya adalah perempuan.  Pada dasarnya, deepfake porn termasuk dalam Kekerasan Gender Berbasis Online (KGBO). 

Kasus yang akhir-akhir ini ramai diperbincangkan adalah sebuah video yang menampilkan seseorang diduga mirip artis Nagita Slavina, atau yang akrab disapa Gigi, ramai dibagikan. Video berdurasi singkat 61 detik itu menampilkan adegan tidak senonoh di mana pelakunya memiliki wajah mirip tokoh publik sekaligus artis, Nagita Slavina. Menanggapi keramaian tersebut, pihak kepolisian telah melakukan pemeriksaan pada video tersebut dan telah memastikan bahwa video mirip artis yang kerap disapa Gigi itu merupakan hasil rekayasa. Dengan kata lain, wajah pemeran yang ada di video porno itu merupakan hasil penyuntingan yang dilakukan oleh seseorang agar menyerupai Nagita Slavina. Pihak kepolisian sementara ini telah menilai bahwa rekayasa itu memanfaatkan teknologi Deepfake.

Dari kalangan artis ada juga pernah yang terkena serangan Deepfake porn. Artis tersebut adalah Gal Gadot pemeran utama film Wonder Woman. Banyak bertebaran video porno dengan pemeran yang wajahnya menyerupai Gal Gadot. Rekayasa wajah dari Gal Gadot itu juga memanfaatkan teknologi AI. Alat untuk membuat Deepfake yang sering dijumpai antara lain seperti After Effect CC, FakeApps, atau DeepFaceLab. Kebanyakan korban Deepfake adalah tokoh publik dari kalangan politisi dan artis, terutama artis perempuan untuk jadi bahan video porno. 

Menurut Ellen Kusuma dan Nenden Sekar Arum, dampak yang mungkin dialami para korban dan penyintas KBGO, dalam hal ini Deepfake porn, antara lain kerugian psikologis, keterasingan sosial, kerugian ekonomi, mobiltas terbatas, sensor diri. yaitu hilangnya kepercayaan terhadap keamanan menggunakan teknologi digital. 

Lalu, bagaimana cara mencegah terjadinya Deep fake porn? Yang pertama mendeteksi apapun video yang sekirannya mencurigakan yang kita temukan. Untuk mengetahui apakah itu Deepfake atau bukan, kita dapat mengeceknya melalui beberapa aplikasi pendeteksi Deepfake seperti sensityAI dan operation minerva. Kedua, Tidak terlalu berlebihan mengumbar kehidupan pribadi kita ke dalam media sosial. Ketiga, meningkatkan keamanan perangkat dengan menggunakan VPN (Virtual Private Network) yang membantu kita tetap anonim saat online. Terakhir, Bijaklah dalam mengikuti trend, jangan berlebihan.  

Dengan demikian, Deepfake telah menjadi fokus utama dalam seputar keamanan dan privasi, mengingat potensinya untuk menyebarkan informasi palsu atau merusak reputasi seseorang secara signifikan. Pada akhirnya, semua akan bergantung pada konsumen media yang mampu berpikir kritis dan mencari sumbernya yang kredibel atau langsung percaya begitu saja. 

Referensi