2. Pengawasan Berbasis Kamera yang Bias Ras
- Contoh: Sistem pengenalan wajah (facial recognition) dari beberapa perusahaan besar, seperti IBM atau Microsoft, cenderung kurang akurat dalam mengenali wajah orang kulit gelap dibandingkan dengan orang kulit terang. Hal ini disebabkan oleh data pelatihan yang didominasi gambar individu berkulit terang. Bias ini berisiko memperparah diskriminasi di lingkungan tertentu, seperti keamanan dan penegakan hukum.
3. Pinjaman Finansial yang Tidak Adil
- Contoh: Algoritma yang digunakan oleh beberapa platform kredit digital menolak aplikasi kredit dari individu di wilayah dengan pendapatan rendah atau kelompok minoritas tertentu. Data yang digunakan mengasosiasikan alamat atau status pekerjaan mereka dengan risiko kredit yang lebih tinggi, meskipun aplikasi individu tidak berisiko.
4. Rekomendasi Konten yang Eksklusif
- Contoh: Algoritma rekomendasi di YouTube atau Netflix cenderung menampilkan konten yang populer di komunitas mayoritas, sementara konten dari kelompok minoritas atau bahasa daerah menjadi kurang terlihat. Ini membatasi eksposur kelompok minoritas dalam lingkungan digital.
5. Aplikasi Kesehatan Tidak Aksesibel untuk Semua Kelompok
- Contoh: Beberapa aplikasi prediksi kesehatan menggunakan dataset yang didominasi oleh data dari kelompok etnis tertentu (misalnya, populasi kulit putih di Eropa atau Amerika Serikat). Hal ini menghasilkan rekomendasi kesehatan yang tidak relevan atau tidak akurat bagi orang dengan etnis yang berbeda.
6. Bias dalam Asisten Virtual
- Contoh: Asisten virtual seperti Siri, Alexa, atau Google Assistant pada awal pengembangannya cenderung lebih baik memahami aksen tertentu (misalnya, aksen Amerika) dibandingkan dengan aksen non-standar atau bahasa Inggris daerah, yang membuat pengalaman pengguna kurang inklusif.
Solusi untuk Mengatasi Bias:
- Diversifikasi data pelatihan.
- Menerapkan audit algoritma secara berkala.
- Melibatkan kelompok lintas latar belakang dalam pengembangan teknologi.
- Membuat regulasi teknologi yang mengutamakan keadilan.
Dengan menghadapi masalah bias, teknologi dapat dirancang lebih inklusif dan bermanfaat untuk semua golongan masyarakat.
Contoh Bias Teknologi Berbasis Data Tidak Inklusif dalam Pendidikan di Indonesia
Bias teknologi dalam pendidikan terjadi ketika sistem atau platform digital yang digunakan dalam proses pembelajaran atau administrasi pendidikan memberikan hasil yang tidak adil atau diskriminatif karena data, algoritma, atau desain yang tidak mencerminkan keberagaman konteks pendidikan di Indonesia.
1. Platform Pendidikan Daring dengan Keterbatasan Bahasa Lokal
- Contoh: Sebagian besar aplikasi pembelajaran daring, seperti Ruangguru atau Zenius, lebih banyak menggunakan Bahasa Indonesia formal. Ini membuat siswa di daerah terpencil yang lebih terbiasa dengan bahasa daerah atau memiliki keterbatasan Bahasa Indonesia mengalami kesulitan dalam memahami materi.
- Dampak: Siswa dari daerah dengan kemampuan Bahasa Indonesia yang lebih rendah cenderung tertinggal dibandingkan siswa dari kota besar.
2. Sistem Penilaian Otomatis yang Tidak Memahami Variasi Jawaban Lokal
- Contoh: Algoritma pada beberapa ujian daring (online exams) menggunakan kata kunci untuk mengevaluasi jawaban esai, tetapi tidak mampu mendeteksi variasi jawaban dengan struktur bahasa atau terminologi lokal, meskipun konsepnya benar.
- Dampak: Siswa dengan gaya penulisan atau latar belakang kultural yang berbeda mendapat nilai lebih rendah dibandingkan siswa yang menggunakan istilah atau gaya penulisan lebih umum.
