Keberadaan Artificial Intelligence (AI) diprediksi akan menjadi teknologi “yang dihandalkan” di masa mendatang.
Kegunaannya begitu luar biasa karena “serba bisa” diantaranya seperti membantu penulisan dokumen, mendesain gambar, belajar bahasa asing, pemfilter konten negatif, dan masih ada banyak lagi hingga di bidang biomedis.
Akan tetapi, dibalik kegunaan tersebut, pada teknologi AI juga didapati sisi negatifnya seperti pada program deepfake AI yang memanipulasi konten foto atau video yang akan saya bahas dalam tulisan ini.
Tulisan saya kali ini terinspirasi dari sebuah konten Youtube Deutsche Telekom dengan judul menggunakan bahasa Jerman “Nachricht von Ella” yaitu tentang Kampanye “A Message from Ella” atau terjemahan dalam Bahasa Indonesia yaitu “Sebuah Pesan dari Ella".
Deutsche Telekom merupakan sebuah perusahaan telekomunikasi raksasa Jerman yang bermarkas di Bonn, Jerman.
Video tersebut diunggah dengan tujuan untuk meningkatkan kesadaran tentang risiko berbagi informasi pribadi anak-anak di internet.
Kampanye ini menampilkan sebuah video deepfake AI dari seorang gadis bernama Ella, yang memperingatkan orang tua tentang bahaya berbagi foto dan video mereka di ruang digital.
Diinformasikan dari kanal youtube tersebut bahwa lebih dari 75% orang tua membagikan data anak-anak mereka di media sosial. Sedangkan di media sosial tersebut, delapan dari sepuluh orang tua memiliki pengikut yang belum pernah mereka temui.
Dalam video tersebut pada akhirnya tim menemui orang tua dari Ella yang berusia 9 tahun. Mereka sering mengunggah mengenai kehidupannya di media sosial. Orang tua Ella tidak menyadari bagaimana hal tersebut dapat memengaruhi masa depan Ella.
Sama sekali tidak disadari oleh kedua orangtuanya saat mereka diperlihatkan menggunakan satu foto Ella dan AI, yang kemudian membuat dan mengubah menjadi Ella dewasa.
Dalam kutipan video tersebut Ella menyampaikan pesan kepada kedua orang tuanya. Diawali dengan sapaan Ella kepada kedua orang tuanya, Ella memperkenalkan diri bahwa dirinya adalah Ella versi digital dengan kenampakkan sedikit lebih tua atau dewasa. Ella memuji teknologi saat ini yang begitu luar biasa bisa mengubah visualnya.
Lebih lanjut, Ella juga menjelaskan caranya yaitu hanya dengan beberapa gambar seperti yang orangtuanya bagikan di media sosial yang dapat diambil dan digunakan oleh semua orang.
Bagi orangtuanya gambar-gambar itu hanyalah kenangan, tapi bagi orang lain semua itu data sehingga Ella menyatakan bahwa itu semua bisa jadi adalah awal dari sebuah masa depan yang mengerikan. Masa depan dimana identitas Ella bisa dicuri sama seperti dirinya bisa masuk penjara untuk hal yang tidak pernah dilakukannya.
Bukan hanya itu, hal tersebut bahkan berimbas pada skor kredit Ella yang dihancurkan. Lebih berbahaya lagi jika suara Ella disalin untuk menipu orangtuanya. Misalnya, ada rekaman suara Ella yang sedang dalam masalah dan membutuhkan orangtuanya untuk mengirimkan uang.
Poin berikutnya, Ella juga tidak ingin menjadi meme yang dipermalukan semua orang di sekolah. Dan tentunya dia tidak menginginkan seperti yang ada di gambar dalam video yaitu gambar Ella yang tidak mengenakan busana.
Apa yang orangtuanya bagikan secara online sama seperti jejak digital yang akan mengikuti Ella selama sisa hidupnya.
Ella menegaskan alasannya menyampaikan itu semua karena tahu bahwa orangtuanya mencintainya dan tidak akan pernah melakukan apapun untuk menyakitinya. Jadi, Ella memohon kepada kedua orangtuanya agar melindungi privasi virtualnya.
Dari “pesan” Ella, saya menemukan 5 hal penting yang menjadi risiko “penyalahgunaan” yang akan dialami oleh Ella, diantaranya :
1. Identitas palsu
Pelaku membuat akun media sosial dengan menggunakan identitas palsu (identitas Ella) seolah-olah itu memang akun Ella. Penjahat ruang digital ini melakukan pencurian identitas melalui media sosial yang digunakan orang tua Ella untuk mengunggah baik foto maupun video.
2. Penipuan
Selain deepfake video, terdapat juga AI peniru suara. Rentan penipuan terhadap orang tua misalnya melalui aplikasi WhatsApp atau media lainnya menggunakan pesan suara dengan suara mirip dengan Ella.
3. Konten yang tidak sesuai dengan norma
Konten berisi audio, video atau gambar yang melanggar etika berkaitan dengan privasi yang mengandung unsur tidak sepantasnya misalnya konten “dewasa” yang tidak menutup kemungkinan untuk disebarluaskan dengan apapun motifnya oleh pelaku.
4. Dipenjara karena sesuatu yang tidak pernah dilakukan
Pelaku seolah berusaha melempar kesalahannya kepada Ella yang memposting gambar dari media sosial. Sehingga Ella di masa depan akan mengalami diskriminasi oleh lingkungan dan masyarakat sekitar yang pada akhirnya memengaruhi kesehatan fisik dan psikisnya.
5. Bahan ejekan bagi teman sekolah
Karena dalam beberapa unggahan orangtuanya tersebut di media sosial, didapati Ella yang sedang menunjukkan mimik wajah atau gestur muka “konyol” atau lucu sesuai dengan usianya. Namun, pelaku bisa saja membuat meme dengan narasi yang “memojokkan” Ella sehingga dia menjadi bahan penghinaan, ejekan, dipergunjingkan, dan berdampak pada rasa malu pada dirinya. Jika hal demikian dibiarkan maka berdampak pada psikologis atau kesehatan mentalnya karena telah dipermalukan.
***
Video tersebut menunjukkan bahwa ternyata kekhawatiran terjadi bukan hanya di Indonesia tapi juga negara lain yang dalam contoh video ini adalah negara Jerman. Kekhawatiran ini merujuk pada penyalahgunaan teknologi AI di masa depan.
Pada Oktober 2023, beredar video Presiden Jokowi berbahasa Mandarin di media sosial yang ternyata dikonfirmasi bahwa video tersebut hoax karena hasil suntingan menggunakan AI. Hal demikian juga pernah dialami selebriti tanah air Nagita Slavina yang menjadi korban dari video hasil rekaan menjurus ke konten dewasa.
Sama halnya dengan Ella, program deepfake mencitrakan wajah para tokoh publik tersebut melalui cuplikan seperti gambar, suara, atau video dan menempatkannya pada objek lain hingga hasilnya teramat menyerupai aslinya.
Deepfake menjadi bagian dari teknologi manipulasi citra publik yang sebenarnya memiliki kegunaan yang tepat misalnya pada industri hiburan dan sarana edukasi. Selain itu pula, teknologi deepfake dapat membantu pelaku usaha untuk membuat kampanye video tanpa memerlukan aktor fisik.
Sebaliknya, mereka dapat membeli lisensi identitas aktor dan menggunakan rekaman digital sebelumnya dari aktor tersebut untuk membuat video produk baru.
Akan tetapi, seiring dengan perkembangannya yang masif, deepfake juga tentu merugikan objek di dalamnya karena dimanfaatkan oleh pelaku kejahatan ruang digital.
Belajar dari “pesan” yang disampaikan oleh Ella, ancaman bukan hanya kepada tokoh publik, melainkan pada masyarakat biasa atau awam seperti kita yang hanya dengan satu foto atau video kita.
Oleh sebab itu, pentingnya mengedukasi dan melindungi privasi diri dan keluarga dalam ruang digital. Berhati-hati dalam bersosialisasi di media sosial dengan mengurangi postingan dalam bentuk jejak digital seperti gambar, audio, dan video.
Bahkan mulailah memprivasi akun sebagai upaya membatasi diri dengan mengenali lebih jeli siapa saja yang bisa mengakses informasi kita di media sosial.
Sangatlah dibutuhkan detektor canggih deepfake yang juga masif seiring perkembangannya pula yang semakin masif.
Dibutuhkan pula regulasi yang tepat sebagai sarana mitigasi risiko terkait etika pemanfaatan AI oleh pemangku kepentingan mengingat data kita, anak-anak, dan keluarga kita membutuhkan perlindungan khusus.
Hal demikian juga dibarengi dengan edukasi secara komprehensif kepada masyarakat misalnya mengenai pendeteksian deepfake dan keamanan ruang digital yang notabene juga harus dimulai dari diri kita sendiri.
Pada akhirnya, kerja sama seluruh elemen sangat dibutuhkan untuk memerangi “editan menyesatkan” ini.
Semoga bermanfaat.
Follow Instagram @kompasianacom juga Tiktok @kompasiana biar nggak ketinggalan event seru komunitas dan tips dapat cuan dari Kompasiana. Baca juga cerita inspiratif langsung dari smartphone kamu dengan bergabung di WhatsApp Channel Kompasiana di SINI
