Seiring dengan kemajuan pesat teknologi kecerdasan buatan (AI), muncul tantangan serius terkait keselamatan dan etika. Beberapa kasus tragis telah mengguncang dunia dan menyoroti potensi risiko AI. Artikel ini mengulas beberapa insiden penting dalam tiga tahun terakhir di mana AI terlibat dalam kematian, menyoroti siapa, kapan, dan di mana kejadian tersebut terjadi.
1. Kecelakaan Kendaraan Otonom Tesla
Pada 17 April 2021, sebuah kecelakaan tragis terjadi di Spring, Texas, yang melibatkan kendaraan otonom Tesla Model S. Dua pria tewas dalam kecelakaan ini setelah mobil mereka menabrak pohon dan terbakar. Mobil tersebut diduga beroperasi dalam mode Autopilot atau Full Self-Driving pada saat kejadian. Insiden ini menimbulkan pertanyaan serius tentang keselamatan dan keandalan teknologi otonom Tesla.
Penyelidikan awal mengungkapkan bahwa tidak ada orang yang duduk di kursi pengemudi saat kecelakaan terjadi, menimbulkan spekulasi bahwa mobil tersebut sepenuhnya dikendalikan oleh sistem otonom. Tesla mengklaim bahwa sistem Autopilot mereka memerlukan pengawasan manusia dan bukanlah sistem yang sepenuhnya otonom. Meskipun demikian, insiden ini memicu perdebatan tentang tanggung jawab pengemudi dan produsen dalam mengoperasikan teknologi semacam itu.
Selain itu, penyelidikan lebih lanjut menunjukkan bahwa Autopilot Tesla mungkin gagal mengenali dan merespons objek di jalan dengan tepat. Kegagalan ini menggarisbawahi pentingnya pengujian yang lebih ketat dan regulasi yang lebih ketat untuk memastikan bahwa teknologi otonom dapat beroperasi dengan aman di jalan raya. Kematian dua pria ini menyoroti risiko yang terkait dengan adopsi awal teknologi yang belum sepenuhnya matang.
Reaksi dari publik dan regulator sangat kuat, dengan banyak yang menyerukan peninjauan ulang terhadap sistem otonom Tesla. Para ahli keselamatan menekankan perlunya pendidikan lebih lanjut bagi pengemudi tentang batasan teknologi ini serta peningkatan pengawasan dan pengujian oleh otoritas terkait. Kematian ini merupakan pengingat bahwa meskipun teknologi otonom memiliki potensi besar untuk mengurangi kecelakaan lalu lintas, implementasinya harus dilakukan dengan hati-hati dan bertanggung jawab.
Kasus ini menjadi titik balik dalam perdebatan tentang masa depan kendaraan otonom dan menyoroti perlunya kolaborasi antara produsen, regulator, dan masyarakat untuk memastikan bahwa teknologi ini dapat diadopsi dengan aman. Evaluasi menyeluruh terhadap keselamatan dan keandalan sistem otonom sangat penting untuk mencegah kejadian serupa di masa depan.
2. Insiden Penggunaan AI dalam Keamanan Rumah
Pada September 2021, sebuah insiden melibatkan sistem keamanan rumah yang didukung AI terjadi di Amerika Serikat. Sistem ini dirancang untuk mendeteksi gerakan dan memberikan peringatan jika terjadi aktivitas mencurigakan. Namun, sistem mengalami malfungsi yang mengakibatkan kebingungan dan potensi risiko bagi penghuni rumah. Meskipun tidak ada kematian langsung yang dilaporkan, insiden ini menunjukkan bahwa AI masih memiliki kelemahan yang signifikan.
