Dalam era transformasi digital, penerapan algoritma dan kecerdasan buatan (AI) semakin mendominasi keputusan bisnis, khususnya dalam sektor finansial. Sebuah penelitian yang menarik dari "Manufacturing & Service Operations Management" oleh Kelley, Anton, dan David, yang diterbitkan oleh INFORMS pada tahun 2022, membahas dampak kebijakan antidiskriminasi terhadap diskriminasi berbasis gender dalam model kecerdasan buatan yang digunakan oleh perusahaan fintech. Bagaimana temuan ini dapat dihubungkan dengan konteks Indonesia? Mari kita temukan jawabannya.
Era Transformasi Digital dan Kecerdasan Buatan di Indonesia
Seiring dengan globalisasi, Indonesia menjadi saksi dari perubahan paradigma bisnis yang didorong oleh kecerdasan buatan. Namun, di tengah lonjakan inovasi ini, muncul pertanyaan serius tentang dampak diskriminasi yang mungkin muncul dalam pengambilan keputusan berbasis algoritma, terutama dalam sektor fintech yang berkembang pesat di Indonesia.
Analisis Terhadap Dampak Kebijakan Antidiskriminasi
Kontribusi Penelitian:
Kelley, Anton, dan David dalam penelitiannya memberikan kontribusi signifikan dengan menganalisis dampak rezim antidiskriminasi terhadap diskriminasi berbasis gender, pemacu diskriminasi dalam model pembelajaran statistik dan mesin, dan berbagai pendekatan untuk mengurangi diskriminasi dalam pembelajaran mesin. Fokus pada diskriminasi gender memberikan gambaran lebih jelas tentang bagaimana berbagai rezim dapat mempengaruhi pria dan wanita secara berbeda.
Manfaat Praktis:
Pentingnya mengizinkan perusahaan fintech untuk mengumpulkan dan menggunakan atribut yang dilindungi, seperti gender, dalam model-model mereka membuka peluang untuk mengevaluasi bias potensial dan mengurangi diskriminasi melalui pendekatan seperti down sampling, hyperparameter tuning, up sampling, dan probabilistic proxy modeling. Bagaimana hal ini dapat diterapkan di Indonesia?
Penerapan Praktis di Konteks Indonesia
Temuan penelitian menunjukkan bahwa memperbolehkan fintech untuk mengumpulkan dan menggunakan atribut yang dilindungi, seperti gender, dapat membantu menilai bias potensial dan mengurangi diskriminasi. Di Indonesia, di mana inklusi keuangan semakin menjadi sorotan, penerapan pendekatan ini dapat berarti bahwa pelanggan yang sebelumnya mengalami diskriminasi dapat menerima dukungan keuangan yang pantas. Ini juga dapat meningkatkan profitabilitas perusahaan pemberi pinjaman karena risiko gagal bayar dapat berkurang.
Namun, penting bagi perusahaan memiliki strategi komunikasi pelanggan yang kuat, menjelaskan manfaat penggunaan atribut pribadi, dan memberikan edukasi kecerdasan buatan untuk meningkatkan kepercayaan pelanggan terhadap pendekatan ini.
