Pemerintahan harus secara konsisten bekerja sama dengan masyarakat atau pihak siapapun yang terdampak oleh implementasi AI. Pada area ini, Alan Turing Institute memberikan pegangan untuk etika dan keamanan AI, yang disebut: SUM values (Respect, Connect, Care, dan Protect).
Respect, atau menghormati, berarti misalnya memastikan bahwa pengguna atau yang terdampak AI memiliki kebebasan untuk memilih, memiliki kemampuan untuk menyampaikan pendapat. Sedangkan connect, atau keterhubungan, berarti AI tidak menghilangkan hubungan antar manusia. Care, atau kepedulian, berarti misal mengurangi resiko salah penggunaan (misuse atau abuse). Terakhir, protect, atau melindungi. Misalnya penggunaan teknologi untuk melindungi keadilan dan perlakuan adil dalam batas-batas hukum.
Terakhir yang juga penting adalah, dalam pengambilan keputusan dengan AI, salah satu yang menjadi tantangan adalah kemampuan menjelaskan mengapa keputusan tersebut diambil. Biasanya, dengan teknologi AI yang cukup kompleks, kadangkala sulit dicari penjelasan mengapa AI menghasilkan sebuah keputusan. Padahal, di ranah publik, sebuah keputusan seharusnya dapat dijelaskan dengan baik, mengapa hal tersebut diambil. Hal tersebut dapat diatasi misalnya dengan menggunakan manusia dalam prosesnya, atau sering disebut sebagai "human in the loop" untuk membantu menjelaskan sebuah keputusan. Hal tersebut berarti, sebuah keputusan tidak 100% otomatis oleh mesin, tetapi terdapat peranan manusia di dalamnya.
Jika kembali ke kasus ETLE, barangkali ada beberapa hal yang bisa diperbaiki agar ke depan, untuk implementasi AI lainnya, dapat menjadi jauh lebih baik. Hal tersebut misal, mengidentifikasi resiko dengan lebih lengkap dan memiliki prosedur jalan keluar untuk setiap resiko. Selain itu, memastikan evaluasi implementasi terus-menerus dan memperbaiki proses bisnis terus menerus sampai didapatkan praktek terbaik yang menguntungkan untuk kepolisian dan juga masyarakat. Sehingga, kesadaran bahwa penggunaan AI tidak hanya difokuskan saat desain, tetapi sampai implementasi juga harus dipahami oleh lembaga publik.
Demikian sedikit pemikiran saya. Barangkali ini juga sebuah ajakan, untuk lebih serius melihat AI sebagai sebuah badan pelayan publik. Saya harap tulisannya ini mewakili doa saya, agar AI dimanfaatkan dengan maksimal oleh lembaga publik kita dalam rangka peningkatan layanan publik dan masyarakatpun merasakan manfaat positif dari implementasi AI.
Baca konten-konten menarik Kompasiana langsung dari smartphone kamu. Follow channel WhatsApp Kompasiana sekarang di sini: https://whatsapp.com/channel/0029VaYjYaL4Spk7WflFYJ2H
