AI dalam serangan siber telah menjadi ancaman yang semakin nyata. Penjahat siber menggunakan AI untuk mengotomatisasi serangan, meningkatkan skala dan efektivitas mereka. Algoritma AI dapat digunakan untuk menemukan celah keamanan, mengirim phishing yang lebih canggih, dan bahkan menciptakan malware yang sulit dideteksi.
Kasus-kasus:
- DeepLocker oleh IBM: Pada tahun 2018, IBM mempresentasikan "DeepLocker" sebagai bukti konsep bagaimana malware berbasis AI dapat menyembunyikan dirinya sampai kondisi tertentu terpenuhi untuk menyerang. Ini menunjukkan potensi ancaman yang serius dari malware AI.
- Serangan Phishing: Pada tahun 2020, sebuah serangan phishing yang didukung AI berhasil menipu ribuan karyawan dari berbagai perusahaan besar, mengakibatkan kerugian finansial yang signifikan.
- Serangan pada Bank: AI digunakan dalam serangan siber yang menargetkan sistem perbankan di Bangladesh pada tahun 2016, yang menyebabkan pencurian dana lebih dari $81 juta.
- Penipuan Asuransi: Pada tahun 2019, perusahaan asuransi di AS menjadi korban penipuan yang melibatkan AI, di mana klaim palsu yang sangat canggih diajukan dan disetujui oleh sistem otomatis.
4. Surveillance AI
Teknologi pengawasan yang menggunakan AI telah berkembang pesat, terutama di negara-negara dengan kebijakan pengawasan ketat. AI digunakan untuk pengenalan wajah, analisis perilaku, dan pemantauan aktivitas massa. Teknologi ini sering kali digunakan tanpa persetujuan atau kesadaran dari individu yang dipantau.
Kasus-kasus:
- Pengawasan di Xinjiang, China: Pemerintah China menggunakan teknologi pengawasan AI untuk memantau populasi Uighur di Xinjiang. Sistem ini menggunakan pengenalan wajah dan algoritma prediktif untuk mengidentifikasi dan melacak aktivitas mereka. Banyak laporan hak asasi manusia yang mengungkapkan penyalahgunaan teknologi ini untuk penindasan.
- Kekhawatiran di AS dan Eropa: Di Amerika Serikat dan beberapa negara Eropa, penggunaan teknologi pengawasan AI oleh penegak hukum telah menimbulkan kekhawatiran tentang privasi dan kebebasan sipil.
- Skandal Clearview AI: Pada tahun 2020, perusahaan Clearview AI mendapat kecaman setelah terungkap bahwa mereka telah mengumpulkan miliaran foto dari internet tanpa izin untuk membangun database pengenalan wajah yang digunakan oleh penegak hukum.
- Kasus Hong Kong: Penggunaan pengenalan wajah oleh pemerintah Hong Kong untuk mengidentifikasi dan menangkap pengunjuk rasa pro-demokrasi menimbulkan kekhawatiran global tentang penyalahgunaan teknologi pengawasan.
5. Biased AI Algorithms
Kasus-kasus:
- COMPAS di AS: Pada tahun 2016, investigasi oleh ProPublica menemukan bahwa algoritma COMPAS yang digunakan untuk menilai risiko pelaku kriminal di AS cenderung memberikan skor risiko yang lebih tinggi kepada terdakwa kulit hitam dibandingkan dengan terdakwa kulit putih. Ini menunjukkan potensi diskriminasi sistemik oleh algoritma AI.
- Rekrutmen oleh Amazon: Pada tahun 2018, Amazon menghentikan penggunaan alat perekrutan berbasis AI setelah menemukan bahwa sistem tersebut menunjukkan bias terhadap wanita, memberikan skor lebih rendah kepada kandidat wanita dibandingkan dengan pria.
- Kasus Pemberian Kredit: Beberapa bank di AS menggunakan algoritma AI untuk mengevaluasi kelayakan kredit yang secara tidak adil memberikan skor lebih rendah kepada pemohon dari kelompok minoritas.
- Penegakan Hukum di Inggris: Sebuah studi pada 2019 menemukan bahwa algoritma pengenalan wajah yang digunakan oleh polisi di Inggris memiliki tingkat kesalahan yang lebih tinggi dalam mengidentifikasi orang kulit hitam dan etnis minoritas lainnya.
Kesimpulan
Teknologi AI memiliki potensi untuk mengubah dunia dengan cara yang luar biasa, namun juga membawa risiko yang signifikan. Lima jenis AI yang dijelaskan di atas menunjukkan bagaimana teknologi ini bisa disalahgunakan atau menyebabkan kerugian besar. Penting bagi masyarakat dan pembuat kebijakan untuk memahami risiko ini dan mengambil langkah-langkah untuk mengatur dan mengawasi penggunaan AI, guna memastikan bahwa manfaatnya dapat dimaksimalkan tanpa mengabaikan potensi bahayanya.
