Pengembangan AI, AGI, dan OI Seharusnya Berkaca dari Pengalaman atas Plastik dan BBM
Setiap hari kita menggunakan plastik, dan membuangnya sebagai sampah. Setiap hari kita menggunakan BBM, baik secara langsung ataupun tidak langsung, dan menghirup karbondioksida yang dihasilkannya. Tak urung kita merasa juga bahwa semua ini adalah masalah.
Kita tidak bisa lepas dari plastik tapi teknologi untuk mereduksi sampah plastik belum juga layak digunakan. Kita belum bisa lepas dari penggunaan BBM, tapi baik teknologi carbon capture maupun teknologi energi terbarukan belum bisa digunakan secara massal dan komersil.
Plastik dan Penggunaan BBM sebagai bahan bakar jelas adalah penemuan besar umat manusia. Keduanya merupakan dasar segala aktivitas manusia modern. Kita bahkan masih sangat tergantung kepada keduanya.
Hanya ada satu kesalahan saja dari teknologi plastik dan BBM ini yaitu kita tidak memprediksi efek samping dari penggunaannya sehingga kita tidak menyiapkan mekanisme untuk mereduksi sampah yang dihasilkan daripadanya. Kesalahan ini berharga sangat mahal. Kerusakan ekologi dan gangguan kesehatan manusia merupakan dua contoh harga yang harus dibayar itu.
Pengembangan teknologi apapun hendaknya bersumber dari kebutuhan langsung dan manfaat langsung. Bila praktek ilmu fisika yang kini berlaku adalah "rumuskan saja dulu dan buat saja dulu teorinya baru kemudian dicari bukti dan faktanya", maka teknologi tidak boleh mengikuti praktek seperti itu.
Teknologi tidak boleh diciptakan saja dulu, baru kemudian manfaatnya dicari-cari dan resiko penggunaannya dicarikan solusinya. Jika praktek ini diteruskan, teknologi bukan akan membantu manusia mencapai tujuan eksistensinya, tapi malah mengancam eksistensi manusia.
Tantangan teknologi kita di masa depan, ini juga merupakan tantangan dalam dunia sains, bukan pada apakah sesuatu itu bisa dibuat atau tidak, tapi lebih kepada solusi apa yang bisa diberikan untuk mengatasi masalah manusia, apa manfaat langsungnya, apakah ada kebutuhan untuk itu, dan bagaimana mengatasi dampak buruk dari eksistensi dan penggunaannya.
Jika kita tidak siap dengan jawaban atas pertanyaan itu, maka walaupun dengan berat hati kita tidak akan melanjutkan membuat teknologi tertentu itu.
Teknologi rekayasa biologis atau teknologi yang meniru manusia seperti synbio, robot, AI, dan AGI berada dalam urutan pertama yang harus dikritisi dan diawasi. Synbio, robot, AI, dan AGI itu dikembangkan apakah memang ada kebutuhan untuk itu? Apakah ada manfaat langsung bagi manusia? Solusi apa saja yang bisa diberikan kepada kemanusiaan? Bagaimana membuat mekanisme untuk mereduksi dan mengurangi efek buruk dari eksistensinya dan penggunaannya?
Pengembangan AI dan AGI harus didasarkan kepada prinsip pragmastisme. Ini tidak boleh semata didasarkan untuk memuaskan rasa ingin tahu kita, atau untuk membuktikan ego superiorititas kita sebagai pribadi dan sebagai manusia, maupun sebagai alat untuk mendukung paham dan filsafat tertentu.