Hentikan Bias Rekrutmen dengan AI

Menyusul munculnya ChatGPT pada akhir tahun 2022, kecerdasan simulasi telah dimasukkan ke dalam penggunaan standar, dan selama setahun terakhir, organisasi di hampir setiap industri telah menerapkan inovasi tersebut ke dalam proses bisnis mereka. Faktanya, informasi baru menunjukkan bahwa 55% perusahaan yang didirikan sedang menjajaki cara lain terkait dengan kecerdasan buatan manusia. 

Di sisi lain, para perekrut dan pencari kerja memiliki kekhawatiran mengenai kepercayaan dan keadilan karena banyaknya pertanyaan mengenai kapasitas algoritme untuk memerangi bias perekrutan AI. Menurut Asosiasi Kepegawaian Amerika, 49% pencari pekerjaan percaya bahwa perangkat intelijen buatan yang digunakan dalam perekrutan lebih bersifat sepihak daripada pengintai manusia. 

Ada alasan yang sah untuk khawatir mengenai bias perekrutan AI, dan merupakan tanggung jawab para pemimpin untuk menerapkan strategi yang mengurangi kegelisahan ini dan mencegah terjadinya potensi diskriminasi. Dengan memusatkan perhatian pada informasi berkualitas, memberikan tingkat keterusterangan yang tepat, dan mengimbangi hubungan manusia dengan proses kecerdasan buatan, para pionir dapat menjamin bahwa model mereka akan menurunkan kecenderungan, dibandingkan meningkatkannya, sekaligus meningkatkan kepercayaan di antara klien, spesialis pendaftaran, dan pesaing. 

Kualitas, Berbagai Penghitung Informasi Kecerdasan Buatan Menggunakan Kecenderungan Pada tahun 2022, para ahli di Cambridge College menemukan bahwa aparat pendaftaran tidak dapat membunuh kecerdasan berbasis komputer yang menggunakan kecenderungan, sehingga membuat banyak organisasi meninggalkan perangkat ini. Narasi mengenai cara memasukkan AI ke dalam proses perekrutan telah berubah sejak saat itu seiring dengan kemajuan pesat dalam pemahaman kita tentang algoritme AI dan pengembangan teknologi. 

Oleh karena itu, ada peluang besar untuk lebih mengembangkan efektivitas proses ketika kecerdasan berbasis komputer digunakan secara akurat. Kecerdasan berbasis komputer sama cemerlangnya dengan apa yang Anda latih, dan untuk menjamin kecerdasan berbasis komputer dapat menurunkan atau menghilangkan kecenderungan dalam sistem perekrutan, penting agar model tersebut disiapkan berdasarkan informasi perekrutan yang berbeda dan komprehensif. 

Kecenderungan yang tidak disengaja dapat muncul dari penggunaan kumpulan data yang homogen, atau informasi yang memiliki variabel serupa --- misalnya, semua individu dengan usia yang sama --- karena hal ini tidak memberikan tes delegasi terhadap orang-orang untuk menilai hasil. Jika suatu organisasi pada umumnya mendirikan bisnisnya dengan kecenderungan kritis terhadap satu orientasi, atau satu ras, informasinya akan cenderung ke arah contoh-contoh tersebut karena itulah informasi utama yang diperlukan untuk bekerja. 

Untuk menjamin bahwa simulasi kecerdasan yang menggunakan kecenderungan dihilangkan, Anda memerlukan kumpulan data yang luas dan heterogen dari berbagai geologi, fondasi, orientasi seksual, dan sebagainya. Di Bullhorn, misalnya, data pelatihan yang signifikan secara statistik untuk algoritme kami berasal dari titik data ratusan juta kandidat dari lebih dari 10.000 bisnis. Menguji Model dan Memperjelas Berdasarkan studi Seat Exploration, 41% orang Amerika menentang penggunaan kecerdasan berbasis komputer untuk mensurvei permintaan pekerjaan - yang menunjukkan kurangnya pemahaman tentang bagaimana kecerdasan berbasis komputer sering digunakan. 

Transparansi dalam teknologi perekrutan AI meningkatkan akuntabilitas, keadilan, dan kepercayaan di seluruh proses. Kekhawatiran apa pun tentang bias perekrutan AI dapat diatasi jika model AI Anda dilatih pada kumpulan data yang beragam. Pengujian efek divergen secara teratur merupakan tahap mendasar dalam mencegah kecenderungan perekrutan intelijen berbasis komputer. Audit pihak ketiga sangat penting untuk menentukan apakah perekrutan yang didukung AI secara tidak proporsional menargetkan kelompok demografi tertentu dan mengecualikan kelompok demografi lainnya. 

Para pemimpin dapat mengidentifikasi bias perekrutan AI sebelum menimbulkan diskriminasi dengan melakukan audit rutin. Audit pihak ketiga terhadap model vendor sangat penting bagi bisnis yang mengevaluasi vendor luar untuk menerapkan perangkat lunak AI. Jika vendor menolak atau tidak dapat memberikan laporan audit bias AI kepada Anda, hal ini menunjukkan bahwa model mereka mungkin dikembangkan menggunakan kumpulan data yang homogen. 

Dalam banyak kasus, audit bias AI menjadi persyaratan hukum, selain untuk menyelesaikan masalah yang bias dan transparan serta menumbuhkan kepercayaan terhadap teknologi. Misalnya, Undang-undang Lokal Kota New York nomor 144 yang terbaru menetapkan bahwa calon kandidat pekerja di kota tersebut harus diberi tahu ketika pemberi kerja atau agen tenaga kerja menggunakan alat pengambilan keputusan ketenagakerjaan otomatis (AEDT) dan bahwa pemberi kerja harus melakukan audit bias sebelum menggunakan alat tersebut.  Selain itu, UU AI UE, yang baru-baru ini disahkan dan kemungkinan besar akan menghasilkan undang-undang tambahan, berdampak pada beberapa organisasi di Amerika Serikat dan mencakup persyaratan untuk tata kelola data dan pengujian kumpulan data.