Persoalan yang dibahas pada bagian pertama tulisan "Menjaga Ancaman AI di Dalam Guci Pandora" adalah pendekatan sains yang melulu fokus pada apa yang dapat dilakukan, yang kadang mengabaikan apa yang pantas dilakukan. Pendekatan sains (apa yang dapat dilakukan) sangat menonjol digunakan di dunia sains dan teknologi. Teknologi-teknologi yang dibangun dan dikembangkan raksasa-raksasa teknologi penuh dengan kepentingan bisnis dan sering abai akan penggunaan teknologi yang pantas.
Kita dapat melihat contoh bagaimana pola ini terjadi ketika internet mulai berkembang di Indonesia sekitar tahun 90-an. Baru pada tahun 2008 melalui UU ITE no. 11 Tahun 2008 muncul pengaturan tata tertib penggunaan informasi dan transaksi elektronik. UU ITE adalah contoh bagaimana teknologi lebih dulu melakukan apa yang dapat sebelum apa yang boleh dan pantas diatur.
UU ITE No. 11 Tahun 2008 sendiri telah dua kali mengalami perubahan yaitu perubahan pertama sebagai UU no. 19 Tahun 2016 dan perubahan kedua pada UU no. 1 Tahun 2024. Perubahan kedua ini meliputi hal-hal terkait tanda tangan elektronik, segel elektronik, penanda waktu elektronik, layanan pengiriman elektronik tercatat, otentikasi situs web, preservasi tanda tangan elektronik dan/atau segel elektronik, identitas digital, dan/atau layanan lain yang menggunakan sertifikat elektronik.
Jika pada bagian pertama kita berkutat pada persoalan bagaimana sains fokus dengan persoalan apa yang dapat dilakukan daripada apa yang pantas dilakukan, di bagian kedua ini kita akan bergulat tentang membangun peradaban Kecerdasan Tiruan (KT) yang mengindahkan manusia. Sebab peradaban manusia telah menjadi saksi bagaimana teknologi yang dibangun tanpa mengindahkan kelayakan etis dapat digunakan sebagai alat politik sebagai senjata mematikan seperti bom atom.
Belajar dari pengalaman bom atom, menyikapi pesatnya perkembangan teknologi KT dirasa perlu dan mendesak untuk terus memperhatikan tata tertib dan aturan pengembangan serta penggunaan teknologi KT. Salah satu bentuk yang perlu diperhatikan yaitu kepedulian penggunaan teknologi KT terhadap dampaknya bagi MANUSIA.
Salah satu aspek yang mengubah manusia dengan adanya teknologi KT yaitu bergesernya pengalaman subjek manusia pada objek mesin. Pergeseran ini terindikasi ketika teknologi yang tadinya baru sebatas instrumen, perlahan khususnya pada teknologi KT akan menjadi subjek artifisial (subjek tiruan). Lihat saja algoritma Large Language Model (LLM) sering di-personifikasi-kan oleh banyak penggunanya seolah objek teknologi tersebut adalah manusia (sentient).
Istilah subjek artifisial saat ini masih bersifat angan-angan, masih jauh apabila dianggap identik dengan manusia, sebab masih bersifat persepsi dan terbuka untuk dipersoalkan. Istilah tersebut digunakan sebatas ilustrasi sebagai bantuan gambaran ke arah mana teknologi KT menuju. Gambaran ini akan mengilustrasikan bagaimana teknologi sebagai instrumen (yang sekedar membantu manusia) perlahan peranannya berkembang menjadi mitra bantu yang di-'personifikasi'-kan.
Pergeseran kemampuan subjek pada objek sebetulnya sudah terjadi cukup lama. Ambil contoh sederhana ketika kalkulator 'menghilangkan' pengalaman subjektif berhitung manusia. Dalam kesejajaran analogi kalkulator, KT perlahan akan mengurangi kemampuan subjektif manusia bukan hanya dalam berhitung, namun lebih luas pada keterampilan berpikir, merumuskan pengetahuan, menimbang-nimbang, dan atau membuat keputusan.
Lebih jauh lagi, ada pengalaman emosi yang semakin luntur seperti ketika menghadapi kesusahan, ketekunan, keuletan, kesulitan, dll. Pengalaman  rasa-merasakan cenderung dihindari. Kemampuan merumuskan pengetahuan menjadi gagap dan lemah. Kemunduran pengalaman dan kemampuan ini dipengaruhi oleh kebiasaan menyerahkan pengalaman-pengalaman sejenis tadi pada teknologi KT. Teknologi KT seperti LLM dan Generative AI telah membantu merumuskan pelbagai pengalaman proses konstruksi abstrak dan imajinasi manusia. Apalagi nanti dalam peta jalan di mana KT akan dikembangkan menjadi Artificial General Intelligence (AGI).
Pola struktur aktivitas dan kerja ekonomi kapitalis didominasi oleh corak masyarakat yang tergesa-gesa dan kompetitif. Corak ini akan mendorong penggunaan teknologi KT yang memberikan hasil sekejap, membuatnya menjadi pilihan utama daripada membiarkan manusia berproses dalam pengalaman yang kaya akan rasa-perasaan, imajinasi, dan kreasi. KT membuat pengalaman berpikir dan ber-emosi manusia berkurang, yang pada gilirannya melemahkan keterampilan manusia dalam kedua jenis pengalaman khas manusia. Ironisnya pengalaman subjek justru yang telah membantu manusia berevolusi hingga sampai dalam keadaan sekarang.
Perubahan dan perkembangan selalu terjadi dalam sejarah peradaban manusia. Teknologi sendiri merupakan salah satu faktor pengubah dan yang mengubah peradaban manusia. Â Perubahan sulit ditolak. Sebab teknologi menjadi aspek peradaban manusia itu sendiri. Oleh sebab itu daripada energi manusia dihabiskan untuk bersikap antipati atau menolak perkembangan teknologi, lebih baik membangun sikap yang lebih akomodatif, sehingga teknologi KT dapat menjadi mitra kerja manusia dengan sinergis. Dari sini tujuan kajian KT sebetulnya upaya menjaga ciri manusia yang mampu berpikir, menimbang-nimbang, memutuskan, bergumul dan merumuskan pemikiran, bergulat dengan kesulitan, dst.. Di situlah justru kemanusiaan berkembang, melanggengkan evolusi manusia yang semakin kaya dengan berbagai corak.
Dalam bidang neuro sains ada adagium "you use it or you loose it", di situ dimaksud bahwa jika otak manusia semakin tidak terampil digunakan maka ada bagian-bagiannya yang tidak berkembang. Ibaratnya ketika manusia semakin aktif menggunakan papan tombol pada komputer, atau menggunakan layar sentuh pada perangkat bergerak, keterampilan manusia menggunakan pena/kuas untuk menggambar dan atau menulis semakin pudar. Rasa-rasanya terlalu sayang apabila kemampuan manusia menggunakan jari-jarinya berkutat pada memencet tombol dan menggeser layar.
Dengan demikian perlulah menggugah kesadaran peradaban KT yang manusiawi dan sinergis yaitu peradaban KT yang merangkul teknologi namun tidak menghilangkan esensi manusia penggunanya. Peradaban KT yang manusiawi dan sinergis juga perlu mengedepankan nilai-nilai kemanusiaan sebagai rambu-rambu teknologi. Peradaban KT yang mapan memahami teknologi dengan baik sehingga mampu bersikap terhadapnya dengan tepat dan memadai. Peradaban KT hakikatnya tetap membuat manusia dapat semakin berkembang sebab teknologi telah menggantikan tugas-tugas dan peran yang tidak 'menyenangkan' atau berbahaya bagi manusia, seperti pekerjaan-pekerjaan repetitif dan berisiko tinggi. Sehingga manusia dapat lebih bebas dan leluasa mengembangkan dirinya.
Kemajuan KT perlu ditempatkan dalam konteks yang tepat agar KT menjadi mitra yang andal, bukan untuk melemahkan kemampuan dan kapasitas manusia. Untuk itu perlu dilakukan pembedaan konteks KT yaitu ketika dibutuhkan bagi manusia, dan ketika KT tidak boleh mengabaikan formasi manusia (misalnya dalam bidang pendidikan) dalam proses evolusi pengembangan spesies manusia. Pengalaman dan pengetahuan harus selalu dijaga, dibentuk pada spesies manusia seperti pengalaman kebertubuhan, indra, emosi, dan kognitif, pengalaman subjek sebagai individu dan pengalaman subjek dalam sosial kemasyarakatan. Penggunaan KT yang intensif diharapkan terukur menjaga pengalaman-pengalaman formasi manusia tetap berkembang. Pengalaman-pengalaman ketekunan, kerja keras, mengalami kesulitan, bersabar, berproses, berkreasi, berimajinasi, menyelesaikan masalah, kepekaan, intuisi, empati, dan seterusnya, tetap perlu dijaga sebagai bagian dari kekhasan dan corak kemanusiaannya.
Pengalaman-pengalaman tadi menumbuhkan sikap simpati dan empati. Tanpa pengalaman-pengalaman manusiawi, lunturlah penghargaan terhadap nilai-nilai. Memudarnya penghargaan terhadap nilai-nilai dapat mengarahkan manusia pada kecondongan pragmatisme yang mengabaikan proses. Pragmatisme menghancurkan nilai-nilai sebab proses tumbuhnya nilai-nilai kebajikan tidak dihargai dan diminati selain daripada semata-mata fokus pada hasil instan. Kebudayaan pragmatis yang fokus pada hasil instan kurang mengindahkan proses bertumbuh dan berkembangnya nilai-nilai; takutnya akan menjadi tanah subur bagi berkembangnya paham serupa nihilisme. Suatu sikap apatis terhadap proses, nilai-nilai, dan kemanusiaan.
Baca konten-konten menarik Kompasiana langsung dari smartphone kamu. Follow channel WhatsApp Kompasiana sekarang di sini: https://whatsapp.com/channel/0029VaYjYaL4Spk7WflFYJ2H