Si tukang obat mengambil cuplikan video yang menampilkan figur publik yang dimaksud - yang bisa mereka dapatkan dengan mudah dari saluran YouTube milik media mainstream, membisukan suara aslinya, lalu menambahkan suara tiruan (sintetis) pada video tersebut. Jadi seakan-akan figur publik tersebut sedang mempromosikan obat yang dijual oleh si tukang obat.
Celakanya, video-video yang beredar ini disebarkan dengan cara diiklankan di YouTube. Entah sudah berapa banyak orang yang menyaksikannya, dan sudah berapa banyak yang membeli produk tersebut.
Sepanjang pantauan Saya, beberapa suara artis juga sudah pernah digunakan. Contohnya suara Raffi Ahmad yang digunakan untuk mempromosikan permainan judi.
Ini Adalah Bentuk Pelanggaran Privasi dan Kebebasan Berekspresi
Perekaman suara dan pembuatan suara sintetis tanpa persetujuan dapat melanggar privasi. Bayangkan suaramu direkam dan digunakan untuk membuat chatbot, atau dalam konteks ini, digunakan untuk mempromosikan obat diabetes.
Kalau mau usaha lebih lagi, bisa juga menggunakan Deepfake video sehingga bukan hanya suara, tapi wajah juga dimanipulasi agar bibir figur publik yang ada pada video gerakannya sesuai dengan kata-kata yang dibuat menggunakan AVG.
Ancaman Keamanan Siber Baru
Khusus masalah ini Saya tidak mau membahas lebih jauh, tapi iya, AVG dapat digunakan untuk membuat malware dan phishing yang lebih canggih. Suara sintetis yang dibuat menggunakan AVG dapat digunakan untuk melewati sistem keamanan, atau menipu korban agar memberikan informasi sensitif.
Edukasi dan Peningkatan Kesadaran Masyarakat
Masyarakat perlu di edukasi tentang potensi bahaya dan cara mengidentifikasi AVG. Pengguna internet dari berbagai kalangan harus belajar bagaimana mendeteksi deepfake video dan memverifikasi informasi sebelum menyebarkannya.
Pengembangan Teknologi Keamanan
Teknologi untuk mendeteksi dan mencegah penyalahgunaan AVG perlu dikembangkan. Algoritma untuk mendeteksi suara sintetis dan memverifikasi identitas suara dapat membantu mencegah penipuan dan melindungi privasi.
Kesimpulan
Teknologi AI Voice Generator memiliki potensi besar untuk berbagai aplikasi yang bermanfaat. Namun, kita harus waspada terhadap bahaya tersembunyi dari penggunaan AVG secara ugal-ugalan. Penting untuk menerapkan regulasi, edukasi, dan teknologi keamanan untuk memastikan penggunaan AVG yang bertanggung jawab dan etis.
Sebagai pengguna teknologi, kita memiliki peran penting dalam memastikan penggunaan AVG yang bertanggung jawab. Kita harus aktif menjaga komunitas dunia maya agar tetap aman dan bersahabat. Jika kita menemukan konten yang menyalahi aturan, ketimbang memberikan komentar atau melewatinya begitu saja, lebih baik melaporkan konten tersebut.
