2. Penipuan
Selain deepfake video, terdapat juga AI peniru suara. Rentan penipuan terhadap orang tua misalnya melalui aplikasi WhatsApp atau media lainnya menggunakan pesan suara dengan suara mirip dengan Ella.
3. Konten yang tidak sesuai dengan norma
Konten berisi audio, video atau gambar yang melanggar etika berkaitan dengan privasi yang mengandung unsur tidak sepantasnya misalnya konten “dewasa” yang tidak menutup kemungkinan untuk disebarluaskan dengan apapun motifnya oleh pelaku.
4. Dipenjara karena sesuatu yang tidak pernah dilakukan
Pelaku seolah berusaha melempar kesalahannya kepada Ella yang memposting gambar dari media sosial. Sehingga Ella di masa depan akan mengalami diskriminasi oleh lingkungan dan masyarakat sekitar yang pada akhirnya memengaruhi kesehatan fisik dan psikisnya.
5. Bahan ejekan bagi teman sekolah
Karena dalam beberapa unggahan orangtuanya tersebut di media sosial, didapati Ella yang sedang menunjukkan mimik wajah atau gestur muka “konyol” atau lucu sesuai dengan usianya. Namun, pelaku bisa saja membuat meme dengan narasi yang “memojokkan” Ella sehingga dia menjadi bahan penghinaan, ejekan, dipergunjingkan, dan berdampak pada rasa malu pada dirinya. Jika hal demikian dibiarkan maka berdampak pada psikologis atau kesehatan mentalnya karena telah dipermalukan.
***
Video tersebut menunjukkan bahwa ternyata kekhawatiran terjadi bukan hanya di Indonesia tapi juga negara lain yang dalam contoh video ini adalah negara Jerman. Kekhawatiran ini merujuk pada penyalahgunaan teknologi AI di masa depan.
Pada Oktober 2023, beredar video Presiden Jokowi berbahasa Mandarin di media sosial yang ternyata dikonfirmasi bahwa video tersebut hoax karena hasil suntingan menggunakan AI. Hal demikian juga pernah dialami selebriti tanah air Nagita Slavina yang menjadi korban dari video hasil rekaan menjurus ke konten dewasa.
