Seorang profesor computer sains University of Maryland, Ben Shneiderman menyampaikan bahwa bidang artificial intelligence (kecerdasan buatan) membutuhkan "visioner langit biru" yang menawarkan visi utopis tentang masa depan dan "pragmatis sepatu bot berlumpur" yang ingin merombak sistem bias yang dapat menyebarkan kebohongan, melanggar privasi, atau rasis atau seksis.
"Visioner langit biru" berspekulasi tentang kemungkinan masa depan teknologi, menggunakan fantasi utopis untuk membangkitkan kegembiraan. Ide-ide langit biru memang menarik, tetapi sering kali diselimuti oleh visi yang tidak realistis dan tantangan etis tentang apa yang dapat dan harus dibangun.
Sebaliknya, "pragmatis sepatu bot berlumpur" berfokus pada masalah dan solusi, yang ingin mengurangi bahaya yang dapat ditimbulkan oleh sistem infus kecerdasan buatan (AI) yang banyak digunakan. Fokus pada perbaikan sistem yang bias dan cacat, seperti dalam sistem pengenalan wajah yang sering keliru mengidentifikasi orang sebagai penjahat atau melanggar privasi. Kaum pragmatis ingin mengurangi kesalahan medis mematikan yang dapat dilakukan AI, dan mengarahkan mobil self-driving menjadi mobil yang aman.
Menurut Profesor Ben Shneiderman, visioner langit biru akan mendapat manfaat dengan mengambil pesan bijaksana dari realis sepatu bot berlumpur. Menggabungkan pekerjaan kedua kubu lebih mungkin menghasilkan hasil yang bermanfaat yang akan mengarah pada teknologi generasi berikutnya yang sukses.
Seiring percepatan waktu, mesin kecerdasan buatan (AI) menjadi lebih pintar dan lebih cepat. Model bahasa besar (juga disebut model dasar) menggunakan pembelajaran mesin untuk menganalisis kumpulan data yang sangat besar dan mengenali pola kata.
Model-model ini menjadi semakin kuat, dan penggunaannya telah melampaui teks untuk menyertakan gambar dan video. Teknologi berkembang begitu cepat sehingga para ahli bertanya apakah kontrol yang lebih ketat diperlukan untuk mencegah potensi penyalahgunaan, seperti mengancam privasi individu dengan mengumpulkan informasi digital terperinci.
Image: Memahami Pengelolaan Data Secara Etis Dalam Bisnis (File by Merza Gamal)
Sementara itu, dalam survei McKinsey tahun 2021, hanya 27% dari sekitar 1.000 responden yang mengatakan bahwa profesional data mereka secara aktif memeriksa data miring atau bias selama penyerapan data.
Etika data merupakan hal yang penting. Dengan data yang tumbuh secara eksponensial, maka sebenarnya setiap perusahaan adalah perusahaan data. Oleh karena itu, setiap organisasi harus menetapkan praktik terbaiknya sendiri untuk mengelola data.
Namun masih sedikit yang mempertimbangkan aspek etika meskipun sudah mulai menangani aspek operasional manajemen data. Tak jarang terjadi kumpulan data dilanggar/diselewengan dengan dijual tanpa persetujuan, atau salah penanganan oleh oknum perusahaan sehingga perusahaan dapat terkena dampak signifikan terhadap reputasi dan kesehatan keuangan mereka.