Menghentikan Kesenjangan Sosial dengan AI yang Inklusif
Perkembangan teknologi informasi saat ini semakin pesat, dengan sistem otomatisasi berbasis algoritma seperti Artificial Intelligence (AI) dan Generative AI (GAI) mengambil peran penting dalam berbagai sektor, mulai dari bisnis hingga kesehatan. Namun, di balik kemajuan ini, terdapat tantangan besar terkait isu kesetaraan, keberagaman, dan inklusi atau yang dikenal dengan istilah DEI (Diversity, Equity, Inclusion).Â
Dalam artikel The Strategic Value of DEI in the Information Systems Discipline oleh Marabelli dan Chan (2024), dijelaskan bagaimana sistem algoritmik dapat secara tidak sadar memperkuat bias historis yang merugikan kelompok-kelompok rentan, seperti perempuan dan individu berkebutuhan khusus. Sebagai contoh, dalam dunia kerja, perempuan di seluruh dunia masih mendapatkan bayaran 20% lebih rendah daripada laki-laki, menurut data PBB (2023). Ketika AI digunakan untuk merekrut atau menilai kinerja, sistem ini sering kali memanfaatkan data historis yang mencerminkan ketidakadilan masa lalu, sehingga memperparah kesenjangan tersebut.
Ketidakmampuan sistem otomatisasi untuk memperhitungkan konteks sosial ini menjadi masalah utama yang harus dihadapi oleh para pengembang teknologi. Di banyak negara, seperti Amerika Serikat dan negara-negara di Eropa, mulai ada upaya untuk mengatur penggunaan teknologi ini agar lebih adil, namun regulasi sering tertinggal dari perkembangan teknologi itu sendiri. Sebagai contoh, GDPR di Uni Eropa dan PIPL di China adalah contoh regulasi yang dirancang untuk membatasi dampak negatif dari penggunaan data dalam sistem otomatisasi. Namun, masih banyak pekerjaan yang harus dilakukan untuk memastikan bahwa prinsip-prinsip DEI diterapkan dengan baik dalam pengembangan sistem informasi. Artikel ini membuka ruang diskusi lebih lanjut tentang bagaimana sistem otomatisasi dapat dikembangkan secara lebih adil dan inklusif.
***
Sistem otomatisasi, terutama yang didukung oleh algoritma AI, berpotensi membawa perubahan besar dalam efisiensi organisasi. Namun, penelitian yang dilakukan oleh Marabelli dan Chan (2024) menunjukkan bahwa penggunaan data historis dalam algoritma ini sering kali mengabadikan bias yang sudah ada. Sebagai contoh, dalam sebuah studi yang dilakukan pada tahun 2021, ditemukan bahwa algoritma rekrutmen yang digunakan oleh banyak perusahaan besar cenderung menyingkirkan kandidat yang tidak sesuai dengan pola "tradisional" yang tercermin dalam data pelatihan mereka. Ini termasuk kandidat dari kelompok minoritas atau mereka yang memiliki disabilitas. Dampak dari bias ini sangat besar, terutama ketika diterapkan dalam proses rekrutmen massal di perusahaan yang menggunakan otomatisasi untuk meningkatkan efisiensi. Hal ini menciptakan sebuah paradoks: teknologi yang seharusnya meningkatkan inklusi justru memperkuat ketidakadilan.
Salah satu tantangan utama dalam pengembangan teknologi AI adalah bagaimana memastikan bahwa sistem ini tidak hanya sekadar efisien, tetapi juga adil. Tim yang merancang sistem AI sering kali terdiri dari individu dengan latar belakang homogen, yang membuat mereka kurang sensitif terhadap kebutuhan kelompok yang berbeda. Sebagai contoh, sebuah studi yang dilakukan pada tahun 2020 menemukan bahwa tim pengembang AI yang kurang beragam menghasilkan sistem yang tidak inklusif, seperti alat pemindai oksimeter yang kurang akurat untuk individu dengan kulit gelap (Moran-Thomas, 2020). Ketika tim pengembang tidak memahami kebutuhan kelompok yang berbeda, hasilnya adalah sistem yang mengabaikan keragaman pengguna.
Namun, tidak semua masalah ini tanpa solusi. Salah satu pendekatan yang dapat diambil adalah dengan meningkatkan keterwakilan berbagai kelompok dalam tim pengembang teknologi. Penelitian menunjukkan bahwa tim yang lebih beragam cenderung menghasilkan produk yang lebih inklusif dan inovatif. Selain itu, perlu adanya intervensi regulasi yang lebih tegas dari pemerintah. Seperti yang diungkapkan oleh artikel ini, Amerika Serikat dan Eropa mulai mengambil langkah-langkah untuk mengatur penggunaan teknologi otomatisasi. Di New York, misalnya, sistem otomatisasi dalam rekrutmen mulai diawasi lebih ketat agar tidak diskriminatif terhadap kelompok tertentu. Pada tahun 2023, Parlemen Eropa juga telah memutuskan untuk melarang penggunaan teknologi pengenalan wajah di ruang publik karena sering menyebabkan kesalahan identifikasi, terutama pada orang kulit berwarna (Benedict, 2022).
Perkembangan ini menunjukkan bahwa meskipun ada tantangan dalam menerapkan DEI dalam sistem otomatisasi, ada juga peluang untuk memperbaikinya. Sistem otomatisasi dapat dioptimalkan tidak hanya untuk efisiensi bisnis, tetapi juga untuk mendukung keadilan sosial. Inisiatif-inisiatif seperti peningkatan regulasi, diversifikasi tim pengembang, dan peningkatan kesadaran terhadap bias algoritmik menjadi langkah-langkah penting untuk mencapai tujuan ini.
***
Penerapan sistem otomatisasi berbasis AI di berbagai sektor telah membawa dampak signifikan, baik positif maupun negatif. Di satu sisi, teknologi ini menawarkan efisiensi dan kemudahan dalam pengambilan keputusan. Namun, di sisi lain, seperti yang diungkapkan oleh Marabelli dan Chan (2024), teknologi ini juga memperbesar ketidakadilan jika tidak dirancang dan digunakan dengan mempertimbangkan prinsip-prinsip DEI. Penggunaan data historis yang bias, kurangnya regulasi yang tepat, serta ketidakhadiran keragaman dalam tim pengembang adalah beberapa faktor yang memperburuk masalah ini.
Ke depan, tantangan utama bagi pengembang teknologi dan pembuat kebijakan adalah memastikan bahwa sistem otomatisasi tidak hanya meningkatkan produktivitas, tetapi juga mencerminkan keadilan sosial. Dengan meningkatkan keterwakilan dalam tim pengembang dan memperketat regulasi terhadap penggunaan teknologi ini, kita dapat menciptakan sistem yang lebih inklusif. Teknologi harus digunakan sebagai alat untuk memperkecil kesenjangan sosial, bukan justru memperlebar jurang tersebut.
Inisiatif-inisiatif seperti regulasi GDPR di Eropa dan larangan penggunaan teknologi pengenalan wajah menunjukkan adanya kesadaran yang tumbuh terhadap masalah ini. Namun, masih banyak yang perlu dilakukan untuk memastikan bahwa perkembangan teknologi tidak meninggalkan kelompok-kelompok yang rentan. Dalam hal ini, sistem informasi yang lebih inklusif dan adil dapat menjadi salah satu pilar penting dalam mendukung keadilan sosial di era digital.
Referensi
Marabelli, M., & Chan, Y. E. (2024). The strategic value of DEI in the information systems discipline. Journal of Strategic Information Systems, 33, 101823. https://doi.org/10.1016/j.jsis.2024.101823
