Menurut legenda Yunani, Prometheus telah 'mengambil Api dari Surga' dan memberikannya kepada Manusia. Zeus raja para Dewa mengetahui dan mencoba menetralisir 'berkat Api' yang telah diterima oleh manusia. Dia menugaskan Hephaestus (dewa api dan pelindung para pengrajin) untuk membuat seorang perempuan dari tanah, yang kemudian diberikan kepada para dewa sebagai hadiah pilihan mereka. Pandora adalah perempuan itu yang memiliki sebuah guci yang berisi 'segala macam kesengsaraan dan kejahatan'. Zeus mengirim Pandora kepada Epimetheus, yang melupakan peringatan saudaranya Prometheus, sehingga malah menjadikan Pandora sebagai istrinya [1].
Belakangan Pandora membuka guci yang dimilikinya, dan dari situlah 'segala macam kesengsaraan dan kejahatan ke luar dari guci memenuhi bumi'. Mengetahui hal ini guci segera ditutup dan hanya menyisakan 'harapan' di dalamnya. Oleh karenanya hanya berkat 'harapan' yang dapat digunakan oleh manusia untuk menghadapi segala macam kesengsaraan dan kejahatan yang terlanjur 'bebas dari guci'. Istilah Guci Pandora sendiri menjadi 'kotak' pada abad ke-16, ketika Erasmus, keliru menerjemahkan 'Guci' menjadi 'Kotak' dalam kisah Cupid dan Psyche [1].
Mengingat kembali kisah di atas pada abad sains dan teknologi terasa seperti dongeng. Namun layaknya legenda dan mitos, yang lebih penting adalah pesan yang hendak disampaikan daripada bentuk penyampaiannya. Bentuk sekedar kisah yang dibuat menarik agar pesannya tersampaikan.
Dalam kisah Guci Pandora 'kesengsaraan dan kejahatan' seolah berada di luar kendali sementara harapan masih berada dalam kendali manusia. Lalu apa hubungannya dengan teknologi AI?
Seperti sudah banyak diperbincangkan, AI telah menjadi berkat sekaligus berpotensi menjadi ancaman. Manfaat AI sebagai berkat justru sudah ke luar dari wadah Pandora (di sini kita melakukan pembalikan ilustrasi), dan justru ancaman-nya yang harus tetap dikendalikan berada di dalam 'guci'. Persoalannya adalah "Apa-apa ancaman dari AI?" Dan "Bagaimana langkah-langkah mencegah dan atau menghindarinya?"
PERSOALAN SAINS YANG PANTAS.
Ketika bom atom dijatuhkan di Nagasaki dan Hirosima oleh Amerika Serikat, dampaknya sungguh luar biasa dan sungguh mengejutkan. Tentang kekuatan bom atom sejatinya Amerika Serikat sudah lebih dahulu tahu lewat proyek rahasia Manhattan [2]. Namun dampaknya tetap saja mengejutkan mereka sendiri dan terutama dunia yang belum pernah tahu bahwa ada jenis bom yang demikian dasyat. Daya ledakannya, daya hancurnya dan juga imbas radiasinya yang bertahan bertahun-tahun sangat menakutkan.
Setelah perang usai, banyak perdebatan tentang peristiwa bom Nagasaki dan Hiroshima, hingga ada suatu pendapat yang mengatakan bahwa hal tersebut adalah 'kejahatan' yang perlu (necessary evil)[3]. Dalam hal ini ada pertanyaan menggelisahkan, bukankah harusnya para ilmuwan menyadari bahwa bom atom yang telah mereka mungkinkan buat, memiliki ekses (melampaui batas) digunakan oleh militer, yang pada gilirannya berdampak secara hebat pada manusia dan lingkungan?
Tentu banyak perdebatan pula soal tuduhan tadi, namun sepertinya terlalu naif apabila meskipun para ilmuwan menyadari konflik batin keterlibatan mereka dalam pembuatan bom atom tetapi cuci tangan keterlibatannya. Meskipun kemudian hari bahwa mereka menyesal, nyatanya mereka luluh dengan egonya sendiri dalam melakukan aktualitas apa yang mereka mampu lakukan.
Tentu ada logika pembelaan, semisal kalau bukan Amerika Serikat, tentu pihak lain yang akan lebih dahulu berhasil membuat bom. Sebab Amerika Serikat dan sekutu seolah mengangkat panji 'pembela kebenaran' untuk menumpas kejahatan yang saat itu dituduhkan pada pihak yang memulai perang; hal itu tentu sah-sah saja dilakukan oleh mereka. Namun bukan aspek logika politik demikian yang hendak ditelisik pada keberatan tuduhan hipotesis.Â
Aspek yang hendak disoroti adalah aspek bagaimana sains terlalu egois untuk mengekslorasi kehendaknya mewujudkan apa-apa yang dapat mereka lakukan, semata-mata demi sains itu sendiri tanpa pertimbangan kesiapan dan kemapanan manusianya.Â
