Ada dua syarat agar teknologi bisa berkawan dengan manusia dalam melanjutkan mimpi utopia, pertama adalah Friendly Artificial Intelligence, AI yang terkendali akan memiliki efek positif (jinak) pada kemanusiaan atau setidaknya selaras dengan kepentingan manusia atau berkontribusi untuk mendorong peningkatan spesies manusia.
Kedua, Human Oritented, Teknologi AI harus tetap dikendalikan demi memenuhi kebutuhan manusia dalam segala dimensi, bukan sebaliknya.
Tidak ada opsi mundur dalam akselerasi teknologi, dan kedua syarat tersebut bisa jadi sekaligus adalah utopia itu sendiri. Kita sedang berjalan menuju penyatuan biotech (teknologi yang berada di dalam sistem biologi manusia) dan infotech (teknologi berbasis big data yang dioperasikan secara algoritmatik).
Namun apakah itu akan seperti M3GAN, indah pada mulanya dan tragis di babak akhir. Mulailah mematut-matut apa potensi destruktif yang sedang bersarang di dalam diri kita, sebelum memutuskan terhubung ke sistem AI, yang suatu saat akan memproyeksikan kejahatan tersembunyi kita secara brutal.
Jika ada nyamuk, jangan kelambunya yang dibakar. Kita sangat membutuhkan teknologi AI untuk menyelesaikan problema kemanusiaan kita; human error, distorsi moral, keterbatasan fisik, wabah penyakit, perubahan iklim, krisis pangan, dan objek-objek kejahatan siber. Manusia tidak bisa sendiri untuk menapaki hari-hari esok, mereka akan memakan buah simalakamanya sendiri. ~MNT
Baca konten-konten menarik Kompasiana langsung dari smartphone kamu. Follow channel WhatsApp Kompasiana sekarang di sini: https://whatsapp.com/channel/0029VaYjYaL4Spk7WflFYJ2H
