Perempuan Ini Menjadi Korban Jiwa Pertama AI

Dunia teknologi sedang berduka atas kematian Elaine Herzberg. Elaine menjadi korban self-driving car (SDC) dari Uber. Tragedi yang terjadi bulan Maret lalu di Tempe Arizona, AS mengejutkan banyak pihak. Dan tragedi ini menjadi pesan bahaya dan hakikat AI atau artificial intelligence. 

Volvo XC90 dari Uber yang menewaskan Elaine ini menggunakan sistem Lidar (Light Detection and Ranging). Lidar memakai cahaya laser yang ditembakkan mobil guna mengenali benda-benda disekitarnya. Dalam 'otak' Lidar, nuansa ini diubah ke dalam bentuk peta 3D yang akurat dan real-time. Dengan kata lain Lidar menjadi mata untuk mengenali jarak, benda, dan lingkungan di sekitaran SDC.

Entah mengapa, pada malam hari 18 Maret 2018 Lidar tidak mengenali Elaine. SDC Uber yang melaju sekitar 60 km/jam tidak mengenali Elaine yang menyebErang dengan sepedanya. Walau kontrol kemudi otomatis segera dialihkan ke pengendara manual. Namun disayangkan, tabrakan dengan Elaine tidak terelakkan.

Sampai saat ini tes jalan SDC dari Uber dihentikan. Banyak pihak melihat tragedi ini sebagai kesalahan total Uber. Namun beberapa pemerhati teknologi melihat tragedi ini sebagai sebuah 'hakikat' sebuah AI dalam teknologi seperti Lidar.

TKP Kejadian Tabrakan - foto: 6abc.com

Dirangkum dari artikel The Guardian, Lidar pada mobil Uber dikembangkan dengan AI narrow intelligence. Model AI seperti ini biasanya dikhususkan pada penyelesian satu tugas. Contohnya AI berjuluk Watson dari IBM. Algoritmanya dirancang untuk menjawab pertanyaan manusia sealamiah mungkin. 

Sistem serupa pun didesain ke dalam HFT (High Frequency Trading) pada sistem bursa saham. Sistem ini serupa bot yang menjalan ribuan transaksi buy-sell secara real-time. Dan dalam sistem HFT, jutaan bot dengan algoritma narrow intelligence 'berperang' satu sama lain. Tiada yang mengawasi transaksi jual beli, selain para bot ini. 

Sistem algoritma HFT pernah mengalami crash dahsyat selama 5 menit di 2010. Tetapi reboot kembali dalam 5 menit untuk kembali seperti semula. Tidak ada orang yang tahu mengapa dan penyebab crash ini.  

Sistem ini pun diterapkan dalam iklan price deal ala toko online. Kadang algoritma antar toko online 'berperang' harga tanpa diketahu administrator toko. Harga yang kadang terlalu murah pada satu item membuat konsumen gembira. Kejadiannya ini biasanya disebut flash crash.

Baik algoritma pada Lidar, Watson, HFT, dan price deal memiliki rimbanya sendiri. Algoritma yang ada berkembang mencari cara dan jalannya sendiri untuk menyelesaikan tugas. Dan semua diluar kendali manusia. Seolah-olah algoritma yang saling berpaut dalam satu sistem ekosistem bertarung satu sama lain.

Tragedi Elaine dengan algoritma AI, seperti Lidar, diduga mengalami spaghetti code. Spaghetti code membuat ribuan kode algoritma bertumburan dan menciptakan output yang tak bisa terukur. Sehingga algoritma reinforcement learning (narrow intelligence) Lidar menciptakan prediksi output-nya sendiri. Dan pada algoritma Lidar, ia tidak mampu mengenali Elaine yang sedang menyeberang.

Sehingga, distopia tentang AI seolah nyata di masa depan. Dimana mesin/robot dengan kecerdasannya sendiri mengalahkan manusia. Tragedi Elaine menjadi monumen pengingat bukan saja soal 'bahaya' AI. Namun ketidaktahuan/kedangkalan manusia pada kemandirian AI.