Berita tentang sistem ETLE yang ternyata membuat muncul beberapa laporan tentang salah identifikasi pelanggaran sudah muncul beberapa kali. Misalnya berita yang ditampilkan Kompas tanggal 13 bulan November 2022. Pada kasus tersebut, disebutkan sebuah surat tilang tiba pada seseorang, misal A yang ternyata pada saat kejadian, A sedang berada di rumah. Diduga, ETLE menangkap nomor mobil kendaraan yang menggunakan plat palsu yang kebetulan plat tersebut adalah milik A.
Peluang terjadinya salah tilang tidak hanya itu. Hal yang lain yang mungkin terjadi jika mobil digunakan oleh orang lain, maka pemilik nomor yang akan mendapatkan tilang. Barangkali sebagian dari kita akan muncul pertanyaan, jika seseorang melanggar peraturan rambu lalu lintas, maka yang mendapatkan denda siapa? Sayangnya, sesuai dengan judul naskah ini, saya sama sekali tidak ingin membahas tentang siapa yang seharusnya diberikan tilang. Padahal mungkin ini akan seru juga dibahas. Alasannya banyak, yang paling utama adalah karena saya tidak memiliki pengetahuan sama sekali di bidang terkait ini. Kalau saya ikut-ikutan, bisa-bisa terdengar seperti tong kosong nyaring bunyinya.
Baik, yang akan saya bicarakan kali ini adalah ETLE sebagai salah satu tools berbasis AI untuk kepentingan masyarakat. Cara kerja ETLE Sederhananya adalah dengan membaca perilaku pengguna kendaraan lalu mencatat nomor kendaraan tersebut jika perilaku pengguna kendaraan dianggap melanggar peraturan lalu lintas. Dengan ETLE, maka diduga tidak diperlukan lagi banyak petugas polisi patroli di jalan. Polisi dapat melakukan tugas lain yang lebih penting dan membutuhkan keahlian kognitif lebih.
Tidak perlu lagi dibahas keuntungan AI. Sudah banyak tulisan-tulisan yang membahas keuntungan AI dan pentingnya AI, tidak hanya di sektor swasta tetapi juga di area publik. Hal itupun juga ditunjukkan dengan kenyataan hasil survei yang dilakukan oleh Oxford Insight pada laporannya Government AI Readiness Index 2021 (https://www.oxfordinsights.com/government-ai-readiness-index2021), 40% dari 160 negara telah mempublikasikan atau membuat strategi AI di level nasional, yang menandakan besarnya minat pemerintah untuk mengadopsi AI dan menjadikan bagian dari rencana strategis pemerintahan.
Kembali lagi ke kasus ETLE yang digunakan oleh kepolisian di negara kita. Berbeda dengan sektor swasta yang memanfaatkan AI, kerugian yang terjadi akan menjadi otomatis kerugian perusahaan yang biasanya salah satu indikatornya adalah neraca keuangan. Hal berbeda terjadi pada sektor pelayanan publik. Dampak dari pelayanan publik yang tidak baik adalah terkikisnya kepercayaan publik. Kepercayaan pada pemerintahan bukanlah hal yang mudah untuk ditingkatkan. Laporan OECD tahun 2018 menunjukkan adanya tren kepercayaan yang menurun. Beruntungnya, Indonesia (di kala survei diambil, tahun 2016), ternyata justru meningkat mendekati 30%.
Â
Kesalahan tilang yang terjadi karena ETLE bisa jadi dapat menurunkan kepercayaan masyarakat kepada kepolisian jika tidak ditangani dengan tepat. Buktinya apa? Misal, cepatnya beredar berita salah tilang. Untung hanya satu, dua, tiga, kalau sampai 100 orang? Tidak hanya nanti soal ETLE saja, tetapi juga bisa merembet ke maraknya penggunaan plat palsu yang tidak terkontrol, besaran anggaran ETLE, dan lain-lain yang bisa jadi di luar kendali.
Sehingga, bagi saya, ada satu pelajaran yang penting sekali saat lembaga publik akan menggunakan AI, yaitu mempertimbangkan aspek kepercayaan, keadilan, dan kebertanggungjawaban dalam penggunaan AI. Hal ini sebetulnya sudah banyak didiskusikan di forum-forum ahli teknologi yang berkaitan dengan transformasi dijital, namun barangkali masih sering terlewatkan dalam diskusi di negara kita.
Dengan mempertimbangkan aspek kepercayaan, keadilan, dan kebertanggungjawaban maka lembaga publik saat mendesain dan mengimplementasikan AI telah mengidentifikasi pro dan kontra dengan lengkap, mitigasi resiko dan bias, serta memastikan peranan manusia yang tepat pada implementasi AI. Bagian penting dari ini adalah memastikan secara konstan berfokus pada pengguna yang terdampak implementasi AI secara menyeluruh tidak hanya pada saat desain tetapi juga implementasi.
Hal tersebut berarti bahwa langkah pengawasan tidak hanya dilakukan saat desain, tetapi juga saat implementasi. Lembaga publik yang akan menerapkan AI harus mempersiapkan kerangka kerja teknis yang legal juga beretika untuk pengawasan saat desain dan juga implementasi. Sebagai contoh, pemerintahan Kanada membentuk unit yang disebut Directive on Automated Decision-Making (https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592) yang memastikan standar pendekatan yang terstandarisasi terhadap manajemen resiko AI di seluruh sektor publik, baik dalam tahap desain maupun implementasi. Dalam rangka membantu unit tersebut, assessment dampak algoritma dibuat, untuk memastikan dampak algoritma pada warga negara.
Tidak hanya pada tahap desain, pengawasan pada saat implementasi juga harus dilakukan untuk memastikan bahwa resiko telah diidentifikasi, ada rencana mitigasi, dan konsekuensi lainnya yang tidak diharapkan telah diidentifikasi.
Pemerintahan harus secara konsisten bekerja sama dengan masyarakat atau pihak siapapun yang terdampak oleh implementasi AI. Pada area ini, Alan Turing Institute memberikan pegangan untuk etika dan keamanan AI, yang disebut: SUM values (Respect, Connect, Care, dan Protect).
Respect, atau menghormati, berarti misalnya memastikan bahwa pengguna atau yang terdampak AI memiliki kebebasan untuk memilih, memiliki kemampuan untuk menyampaikan pendapat. Sedangkan connect, atau keterhubungan, berarti AI tidak menghilangkan hubungan antar manusia. Care, atau kepedulian, berarti misal mengurangi resiko salah penggunaan (misuse atau abuse). Terakhir, protect, atau melindungi. Misalnya penggunaan teknologi untuk melindungi keadilan dan perlakuan adil dalam batas-batas hukum.
Terakhir yang juga penting adalah, dalam pengambilan keputusan dengan AI, salah satu yang menjadi tantangan adalah kemampuan menjelaskan mengapa keputusan tersebut diambil. Biasanya, dengan teknologi AI yang cukup kompleks, kadangkala sulit dicari penjelasan mengapa AI menghasilkan sebuah keputusan. Padahal, di ranah publik, sebuah keputusan seharusnya dapat dijelaskan dengan baik, mengapa hal tersebut diambil. Hal tersebut dapat diatasi misalnya dengan menggunakan manusia dalam prosesnya, atau sering disebut sebagai "human in the loop" untuk membantu menjelaskan sebuah keputusan. Hal tersebut berarti, sebuah keputusan tidak 100% otomatis oleh mesin, tetapi terdapat peranan manusia di dalamnya.
Jika kembali ke kasus ETLE, barangkali ada beberapa hal yang bisa diperbaiki agar ke depan, untuk implementasi AI lainnya, dapat menjadi jauh lebih baik. Hal tersebut misal, mengidentifikasi resiko dengan lebih lengkap dan memiliki prosedur jalan keluar untuk setiap resiko. Selain itu, memastikan evaluasi implementasi terus-menerus dan memperbaiki proses bisnis terus menerus sampai didapatkan praktek terbaik yang menguntungkan untuk kepolisian dan juga masyarakat. Sehingga, kesadaran bahwa penggunaan AI tidak hanya difokuskan saat desain, tetapi sampai implementasi juga harus dipahami oleh lembaga publik.
Demikian sedikit pemikiran saya. Barangkali ini juga sebuah ajakan, untuk lebih serius melihat AI sebagai sebuah badan pelayan publik. Saya harap tulisannya ini mewakili doa saya, agar AI dimanfaatkan dengan maksimal oleh lembaga publik kita dalam rangka peningkatan layanan publik dan masyarakatpun merasakan manfaat positif dari implementasi AI.
