Konsekuensi Negatif Media: Penggunaan AI Sebagai Alat Penipuan Terbaru

Dalam era digital ini, media memiliki peran yang semakin besar dalam kehidupan sehari-hari, tidak hanya sebagai alat komunikasi tetapi juga sebagai sumber informasi dan hiburan. Konsep ekologi media merujuk pada cara media memengaruhi, membentuk, dan merestrukturisasi masyarakat serta interaksi sosial di dalamnya. Dengan kemajuan teknologi, termasuk kecerdasan buatan (AI), media kini mampu menyebarkan informasi dalam skala yang lebih luas dan lebih cepat. Namun, ketika teknologi baru ini jatuh ke tangan yang salah, risiko besar muncul bagi masyarakat. Ekologi media menekankan bahwa perubahan dalam teknologi media---seperti AI---tidak hanya berdampak pada cara publik mengakses informasi tetapi juga pada kualitas dan keamanan informasi itu sendiri. Fenomena ini membuka ruang bagi pelaku kejahatan untuk memanfaatkan teknologi canggih, seperti AI, untuk menipu dan merugikan masyarakat. Dalam artikel ini, penulis ingin membahas bagaimana AI kini digunakan untuk keperluan penipuan di Indonesia dan risiko yang ditimbulkan bagi masyarakat luas, Kecerdasan buatan atau AI adalah teknologi yang mampu menciptakan gambar, video, dan teks yang tampak sangat mirip dengan konten buatan manusia. Dengan bantuan AI generatif, pelaku kejahatan dapat menghasilkan konten yang tampak asli dan meyakinkan untuk menipu publik. Penipuan berbasis AI semakin marak di media sosial, memanfaatkan kepercayaan publik pada figur terkenal atau instansi tertentu. 

Ada Berapa bentuk Penipuan Berbasis Ai Ini? untuk sementara ada beberapa antara lain seperti ini:
1. Deepfake: Teknologi AI yang digunakan untuk membuat video atau audio yang tampak seperti individu tertentu, yang dapat digunakan untuk menipu orang lain. Video Putri Tanjung adalah contoh nyata bagaimana deepfake bisa meyakinkan ribuan orang.
   
2. Gambar Buatan AI: Banyak akun di Facebook dan platform media sosial lainnya yang menggunakan gambar buatan AI untuk menarik perhatian dan membangun kepercayaan. Misalnya, akun-akun yang mengaku berafiliasi dengan "Pil&Pet Corporation" menggunakan gambar-gambar yang sangat mirip dengan gambar asli tetapi dihasilkan oleh AI.

3. Pertumbuhan Sosial yang Tidak Autentik: Beberapa pelaku penipuan membeli pengikut palsu atau menggunakan taktik clickbait untuk meningkatkan kredibilitas mereka di mata publik, sehingga konten mereka terlihat lebih sah.

Salah satu contoh kasus penipuan AI yang cukup menggemparkan di Indonesia adalah video deepfake yang menunjukkan Putri Tanjung, seorang tokoh publik, mengumumkan bahwa dia akan memberikan bantuan sebesar Rp25 juta kepada warganet yang membagikan ulang unggahan dan mengikuti akun tertentu. Video ini, yang diunggah oleh akun TikTok "putri.tanjung55," berhasil menarik perhatian besar dengan 1,6 juta like dan lebih dari 41 juta penayangan. Namun, setelah dilakukan pemeriksaan oleh Hive Moderation, ditemukan bahwa audio dalam video tersebut memiliki probabilitas 99,9% sebagai buatan AI atau deepfake. Mafindo (TurnBackHoax) juga menemukan bahwa foto yang digunakan dalam video tersebut berasal dari unggahan resmi Putri Tanjung di Instagram, tanpa ada keterangan tentang pemberian hadiah. Kasus ini menyoroti betapa mudahnya masyarakat tertipu oleh konten buatan AI, terutama ketika konten tersebut dipromosikan oleh akun-akun yang tampak sah dan terpercaya.

Risiko dari penipuan berbasis AI sangat serius, khususnya di Indonesia, di mana banyak orang yang belum sepenuhnya memahami cara kerja teknologi ini. Berikut beberapa risiko utama:

- Kerugian Finansial: Banyak individu dan keluarga yang menjadi korban penipuan, kehilangan uang mereka karena terjebak dalam skema penipuan yang sangat meyakinkan.
 
- Erosi Kepercayaan: Ketika orang mulai menyadari bahwa banyak konten di media sosial bisa jadi palsu, ini bisa merusak kepercayaan masyarakat pada media dan figur publik. Orang menjadi lebih curiga, bahkan terhadap informasi yang sebenarnya sah.

- Dampak Psikologis: Bagi korban, penipuan ini dapat menimbulkan stres dan kecemasan, terutama jika mereka merasa malu atau disalahkan karena tertipu.

Meskipun mengenali penipuan berbasis AI dapat menjadi tantangan,  ada beberapa tanda yang dapat diwaspadai dan bisa kita simpulkan jika itu adalah penipuan yang menggunakan AI:

- Janji yang Tidak Masuk Akal: Konten yang menjanjikan hadiah besar atau penawaran yang terlalu bagus untuk menjadi kenyataan.
 
- Sumber Konten yang Mencurigakan: Jika sumbernya tidak jelas atau berasal dari akun yang baru dibuat, kemungkinan besar itu adalah penipuan.
 
-Verifikasi Konten: Gunakan alat verifikasi seperti pencarian gambar terbalik (reverse image search) atau layanan moderasi untuk memastikan keaslian konten. Misalnya, Hive Moderation dapat digunakan untuk menganalisis video atau audio dan mendeteksi tanda-tanda manipulasi AI.

Penggunaan AI sebagai alat penipuan di Indonesia adalah masalah yang perlu diwaspadai. Melalui pemahaman tentang ekologi media dan risiko teknologi baru ini, kita dapat lebih waspada dan kritis terhadap konten yang kita konsumsi. Edukasi masyarakat tentang cara mengenali dan menghindari penipuan berbasis AI adalah langkah penting untuk melindungi diri dan orang-orang terdekat dari risiko yang mungkin muncul di masa depan.

Referensi:

https://www.kompas.com/cekfakta/read/2024/10/07/105500282/-hoaks-putri-tanjung-bagi-bagikan-rp-50-juta

https://www.abc.net.au/news/2023-04-12/artificial-intelligence-ai-scams-voice-cloning-phishing-chatgpt/102064086#:~:text=Experts%20say%20AI%20scams%20are%20on%20the%20rise,reports%20suggest%20trust%20in%20regulation%20is%20low%20

How Spammers and Scammers Leverage AI-Generated Images on Facebook for Audience Growth By Renee DiResta  & Josh A. Goldstein Stanford Internet Observatory, Stanford University, United States,Center for Security and Emerging Technology, Georgetown University, United States