Dari Suara AI Mantan Menteri sampai Pengacara Kondang Digunakan untuk Jualan Obat

Teknologi AI Voice Generator (AVG) berkembang pesat, membuka pintu bagi berbagai kemungkinan baru. Teknologi ini memungkinkan pembuatan suara manusia sintetis yang realistis, yang dapat digunakan untuk berbagai tujuan, seperti chatbot, audiobook, dan bahkan video game. Namun, di balik potensinya yang besar, terdapat bahaya tersembunyi jika AVG digunakan secara ugal-ugalan tanpa kontrol dan etika.

Apa Itu AI Voice Generator

AI Voice Generator (AVG) adalah teknologi yang memungkinkan pembuatan suara manusia sintetis yang realistis. Teknologi ini menggunakan kecerdasan buatan (AI) untuk mempelajari dan meniru pola suara manusia. AVG dapat digunakan untuk berbagai tujuan, seperti: 

• Chatbot: AVG dapat digunakan untuk membuat chatbot yang dapat berbicara dengan manusia dengan suara yang realistis.
• Audiobook: AVG dapat digunakan untuk membuat audiobook yang dibaca oleh suara yang profesional dan menarik.
• Video game: AVG dapat digunakan untuk membuat karakter video game yang dapat berbicara dengan suara yang realistis.
• Dubbing: AVG dapat digunakan untuk menyulih suara film atau video ke dalam bahasa lain.

Cara Kerja

AI Voice Generator (AVG) bekerja dengan mempelajari dan meniru pola suara manusia. Proses ini terdiri dari beberapa langkah:

1. Pengumpulan data: Data suara manusia dikumpulkan dari berbagai sumber, seperti rekaman audio, video, dan podcast.
2. Analisis data: Data suara dianalisis untuk mengidentifikasi pola dan karakteristik suara manusia.
3. Sintesis suara: Pola dan karakteristik suara manusia digunakan untuk mensintesis suara baru yang realistis.

Teknologi yang Digunakan

AVG menggunakan berbagai teknologi AI untuk bekerja, termasuk:

• Deep learning: Deep learning adalah teknologi AI yang memungkinkan komputer untuk belajar dari data tanpa diprogram secara eksplisit. Deep learning digunakan untuk melatih model AI yang dapat menghasilkan suara manusia yang realistis.
• Natural language processing (NLP): NLP adalah teknologi AI yang memungkinkan komputer untuk memahami dan memproses bahasa manusia. NLP digunakan untuk memahami konteks kalimat dan menghasilkan suara yang sesuai dengan konteks tersebut.
• Speech recognition: Speech recognition adalah teknologi AI yang memungkinkan komputer untuk mengenali dan transkripsikan suara manusia. Speech recognition digunakan untuk menganalisis data suara dan mengidentifikasi pola dan karakteristik suara manusia.

Ketika AI Voice Generator Digunakan Secara Ugal-ugalan

Teknologi yang seharusnya digunakan untuk meningkatkan produktivitas dan kreativitas, sekarang menjadi sebuah alat yang berbahaya di tangan orang yang salah.

Kemampuan AVG untuk meniru suara manusia dengan sempurna membuka celah bagi penipuan dan manipulasi. Bayangkan menerima telepon dari seseorang yang mengaku sebagai atasanmu, namun sebenarnya adalah penipu yang ingin mencuri informasi sensitif.

Kasus seperti ini bukan fiksi ilmiah, melainkan sudah terjadi di dunia nyata. Pada tahun 2019, seorang CEO perusahaan energi di Inggris ditipu oleh penipu yang menggunakan suara sintetis untuk menirukan suara CEO lain. Penipu tersebut berhasil mentransfer uang senilai 220.000 ke rekening bank mereka.

AVG Digunakan Untuk Mempromosikan Produk

Di Indonesia, teknologi ini juga sudah digunakan untuk mempromosikan produk-produk tertentu, contohnya bisa kita lihat pada video di atas yang mempromosikan obat diabetes.

Bayangkan! Dari suara mantan menteri kesehatan Letnan Jenderal TNI Prof. Dr. dr. Terawan Agus Putranto, sampai suara pengacara kondang Hotman Paris digunakan untuk mempromosikan obat diabetes. Di video yang berbeda, suara Najwa Shihab dan Helmi Yahya juga ikut digunakan untuk mempromosikan obat yang sama.

Si tukang obat mengambil cuplikan video yang menampilkan figur publik yang dimaksud - yang bisa mereka dapatkan dengan mudah dari saluran YouTube milik media mainstream, membisukan suara aslinya, lalu menambahkan suara tiruan (sintetis) pada video tersebut. Jadi seakan-akan figur publik tersebut sedang mempromosikan obat yang dijual oleh si tukang obat.

Celakanya, video-video yang beredar ini disebarkan dengan cara diiklankan di YouTube. Entah sudah berapa banyak orang yang menyaksikannya, dan sudah berapa banyak yang membeli produk tersebut.

Sepanjang pantauan Saya, beberapa suara artis juga sudah pernah digunakan. Contohnya suara Raffi Ahmad yang digunakan untuk mempromosikan permainan judi.

Ini Adalah Bentuk Pelanggaran Privasi dan Kebebasan Berekspresi

Perekaman suara dan pembuatan suara sintetis tanpa persetujuan dapat melanggar privasi. Bayangkan suaramu direkam dan digunakan untuk membuat chatbot, atau dalam konteks ini, digunakan untuk mempromosikan obat diabetes.

Kalau mau usaha lebih lagi, bisa juga menggunakan Deepfake video sehingga bukan hanya suara, tapi wajah juga dimanipulasi agar bibir figur publik yang ada pada video gerakannya sesuai dengan kata-kata yang dibuat menggunakan AVG.

Ancaman Keamanan Siber Baru

Khusus masalah ini Saya tidak mau membahas lebih jauh, tapi iya, AVG dapat digunakan untuk membuat malware dan phishing yang lebih canggih. Suara sintetis yang dibuat menggunakan AVG dapat digunakan untuk melewati sistem keamanan, atau menipu korban agar memberikan informasi sensitif.

Edukasi dan Peningkatan Kesadaran Masyarakat

Masyarakat perlu di edukasi tentang potensi bahaya dan cara mengidentifikasi AVG. Pengguna internet dari berbagai kalangan harus belajar bagaimana mendeteksi deepfake video dan memverifikasi informasi sebelum menyebarkannya.

Pengembangan Teknologi Keamanan

Teknologi untuk mendeteksi dan mencegah penyalahgunaan AVG perlu dikembangkan. Algoritma untuk mendeteksi suara sintetis dan memverifikasi identitas suara dapat membantu mencegah penipuan dan melindungi privasi.

Kesimpulan

Teknologi AI Voice Generator memiliki potensi besar untuk berbagai aplikasi yang bermanfaat. Namun, kita harus waspada terhadap bahaya tersembunyi dari penggunaan AVG secara ugal-ugalan. Penting untuk menerapkan regulasi, edukasi, dan teknologi keamanan untuk memastikan penggunaan AVG yang bertanggung jawab dan etis.

Sebagai pengguna teknologi, kita memiliki peran penting dalam memastikan penggunaan AVG yang bertanggung jawab. Kita harus aktif menjaga komunitas dunia maya agar tetap aman dan bersahabat. Jika kita menemukan konten yang menyalahi aturan, ketimbang memberikan komentar atau melewatinya begitu saja, lebih baik melaporkan konten tersebut.