Salah satu tantangan terbesar adalah menentukan siapa yang bertanggung jawab jika senjata otonom melanggar hukum humaniter. Apakah tanggung jawab berada pada programmer, operator, atau negara yang mengoperasikan senjata tersebut? Kurangnya kejelasan ini menjadi hambatan dalam memastikan keadilan bagi korban. Dalam situasi di mana senjata otonom membuat keputusan tanpa campur tangan manusia, sulit untuk menetapkan akuntabilitas pada individu tertentu. Hal ini diperparah oleh kompleksitas teknologi AI, di mana algoritma dapat bertindak di luar kendali programmer setelah diterapkan.
Selain itu, ada perdebatan apakah tanggung jawab hukum seharusnya jatuh pada negara yang menggunakan senjata tersebut atau perusahaan yang mengembangkannya. Di satu sisi, negara sebagai aktor utama dalam konflik bersenjata memiliki kewajiban untuk memastikan senjatanya mematuhi hukum internasional. Namun, perusahaan pengembang AI juga memiliki peran penting dalam mendesain sistem yang aman dan dapat dipertanggungjawabkan. Ketiadaan regulasi internasional yang jelas semakin memperumit situasi ini, sehingga banyak pihak menyerukan pengembangan perjanjian internasional baru untuk mengatur akuntabilitas senjata otonom.
Di sisi lain, ada pula tantangan teknis dalam melacak keputusan yang dibuat oleh senjata berbasis AI. Teknologi "black box" pada AI sering kali membuat proses pengambilan keputusan menjadi tidak transparan, sehingga sulit untuk menentukan apakah tindakan yang diambil sesuai dengan prinsip hukum humaniter. Ini menimbulkan dilema besar, karena korban konflik bersenjata mungkin tidak mendapatkan keadilan akibat celah dalam sistem akuntabilitas ini. Oleh karena itu, pembaruan hukum internasional yang mencakup standar akuntabilitas untuk senjata otonom menjadi semakin mendesak.
Studi Kasus
Insiden Penggunaan Drone di Konflik Timur Tengah
Penggunaan drone bersenjata, seperti Predator dan Reaper, dalam operasi militer di Timur Tengah sering kali memicu kontroversi. Serangan drone AS di Yaman dan Pakistan, misalnya, telah menyebabkan korban sipil yang signifikan, memicu kritik dari komunitas internasional. Kasus-kasus ini menunjukkan bagaimana teknologi otonom dapat melanggar prinsip HHI jika tidak digunakan secara hati-hati.
Peran Senjata Otonom dalam Perang Rusia-Ukraina
Perang Rusia-Ukraina menjadi salah satu medan ujian bagi senjata berbasis AI. Kedua belah pihak dilaporkan menggunakan drone canggih untuk pengintaian dan serangan. Misalnya, drone kamikaze seperti Shahed-136 buatan Iran digunakan dalam serangan Rusia. Penggunaan ini menyoroti tantangan pengawasan internasional terhadap teknologi militer baru.
Argumen Pro dan Kontra terhadap Larangan Senjata Otonom
Pendukung larangan senjata otonom berpendapat bahwa teknologi ini tidak dapat sepenuhnya mematuhi prinsip-prinsip HHI dan meningkatkan risiko pelanggaran hak asasi manusia. Data dari laporan Human Rights Watch (2021) menunjukkan bahwa senjata otonom memiliki tingkat kesalahan yang signifikan dalam mengenali target, yang dapat menyebabkan kerugian besar pada warga sipil. Selain itu, laporan Amnesty International (2020) menyebutkan bahwa negara-negara yang menggunakan senjata berbasis AI berpotensi mengabaikan akuntabilitas atas pelanggaran hukum.
Namun, pihak yang mendukung pengembangan senjata otonom mengklaim bahwa teknologi ini dapat mengurangi risiko bagi prajurit manusia dan meningkatkan efisiensi dalam operasi militer. Sebuah studi dari RAND Corporation (2022) menunjukkan bahwa penggunaan senjata berbasis AI dapat mempersingkat durasi konflik dan mengurangi korban di pihak militer. Mereka juga menekankan bahwa regulasi yang ketat lebih realistis daripada larangan total, mengingat investasi besar dalam penelitian dan pengembangan teknologi ini.
Upaya Hukum atau Inisiatif Internasional
Seiring dengan meningkatnya kekhawatiran global terhadap dampak senjata otonom, berbagai upaya hukum dan inisiatif internasional telah dilakukan untuk mengatur teknologi ini. Salah satu forum utama adalah Konvensi Senjata Konvensional Tertentu (CCW) di bawah naungan Perserikatan Bangsa-Bangsa (PBB). Dalam kerangka ini, diskusi tentang senjata otonom telah berlangsung selama bertahun-tahun, tetapi hingga saat ini belum menghasilkan kesepakatan internasional yang mengikat. Perdebatan dalam CCW sering kali terhambat oleh perbedaan pandangan antarnegara; beberapa negara seperti Rusia dan Amerika Serikat menolak larangan total senjata otonom, sementara negara-negara lain seperti Austria dan Kosta Rika mendesak penerapan regulasi yang ketat.
