Persoalan yang dibahas pada bagian pertama tulisan "Menjaga Ancaman AI di Dalam Guci Pandora" adalah pendekatan sains yang melulu fokus pada apa yang dapat dilakukan, yang kadang mengabaikan apa yang pantas dilakukan. Pendekatan sains (apa yang dapat dilakukan) sangat menonjol digunakan di dunia sains dan teknologi. Teknologi-teknologi yang dibangun dan dikembangkan raksasa-raksasa teknologi penuh dengan kepentingan bisnis dan sering abai akan penggunaan teknologi yang pantas.
Kita dapat melihat contoh bagaimana pola ini terjadi ketika internet mulai berkembang di Indonesia sekitar tahun 90-an. Baru pada tahun 2008 melalui UU ITE no. 11 Tahun 2008 muncul pengaturan tata tertib penggunaan informasi dan transaksi elektronik. UU ITE adalah contoh bagaimana teknologi lebih dulu melakukan apa yang dapat sebelum apa yang boleh dan pantas diatur.
UU ITE No. 11 Tahun 2008 sendiri telah dua kali mengalami perubahan yaitu perubahan pertama sebagai UU no. 19 Tahun 2016 dan perubahan kedua pada UU no. 1 Tahun 2024. Perubahan kedua ini meliputi hal-hal terkait tanda tangan elektronik, segel elektronik, penanda waktu elektronik, layanan pengiriman elektronik tercatat, otentikasi situs web, preservasi tanda tangan elektronik dan/atau segel elektronik, identitas digital, dan/atau layanan lain yang menggunakan sertifikat elektronik.
Jika pada bagian pertama kita berkutat pada persoalan bagaimana sains fokus dengan persoalan apa yang dapat dilakukan daripada apa yang pantas dilakukan, di bagian kedua ini kita akan bergulat tentang membangun peradaban Kecerdasan Tiruan (KT) yang mengindahkan manusia. Sebab peradaban manusia telah menjadi saksi bagaimana teknologi yang dibangun tanpa mengindahkan kelayakan etis dapat digunakan sebagai alat politik sebagai senjata mematikan seperti bom atom.
Belajar dari pengalaman bom atom, menyikapi pesatnya perkembangan teknologi KT dirasa perlu dan mendesak untuk terus memperhatikan tata tertib dan aturan pengembangan serta penggunaan teknologi KT. Salah satu bentuk yang perlu diperhatikan yaitu kepedulian penggunaan teknologi KT terhadap dampaknya bagi MANUSIA.
Salah satu aspek yang mengubah manusia dengan adanya teknologi KT yaitu bergesernya pengalaman subjek manusia pada objek mesin. Pergeseran ini terindikasi ketika teknologi yang tadinya baru sebatas instrumen, perlahan khususnya pada teknologi KT akan menjadi subjek artifisial (subjek tiruan). Lihat saja algoritma Large Language Model (LLM) sering di-personifikasi-kan oleh banyak penggunanya seolah objek teknologi tersebut adalah manusia (sentient).
Istilah subjek artifisial saat ini masih bersifat angan-angan, masih jauh apabila dianggap identik dengan manusia, sebab masih bersifat persepsi dan terbuka untuk dipersoalkan. Istilah tersebut digunakan sebatas ilustrasi sebagai bantuan gambaran ke arah mana teknologi KT menuju. Gambaran ini akan mengilustrasikan bagaimana teknologi sebagai instrumen (yang sekedar membantu manusia) perlahan peranannya berkembang menjadi mitra bantu yang di-'personifikasi'-kan.
Pergeseran kemampuan subjek pada objek sebetulnya sudah terjadi cukup lama. Ambil contoh sederhana ketika kalkulator 'menghilangkan' pengalaman subjektif berhitung manusia. Dalam kesejajaran analogi kalkulator, KT perlahan akan mengurangi kemampuan subjektif manusia bukan hanya dalam berhitung, namun lebih luas pada keterampilan berpikir, merumuskan pengetahuan, menimbang-nimbang, dan atau membuat keputusan.
Lebih jauh lagi, ada pengalaman emosi yang semakin luntur seperti ketika menghadapi kesusahan, ketekunan, keuletan, kesulitan, dll. Pengalaman  rasa-merasakan cenderung dihindari. Kemampuan merumuskan pengetahuan menjadi gagap dan lemah. Kemunduran pengalaman dan kemampuan ini dipengaruhi oleh kebiasaan menyerahkan pengalaman-pengalaman sejenis tadi pada teknologi KT. Teknologi KT seperti LLM dan Generative AI telah membantu merumuskan pelbagai pengalaman proses konstruksi abstrak dan imajinasi manusia. Apalagi nanti dalam peta jalan di mana KT akan dikembangkan menjadi Artificial General Intelligence (AGI).
Pola struktur aktivitas dan kerja ekonomi kapitalis didominasi oleh corak masyarakat yang tergesa-gesa dan kompetitif. Corak ini akan mendorong penggunaan teknologi KT yang memberikan hasil sekejap, membuatnya menjadi pilihan utama daripada membiarkan manusia berproses dalam pengalaman yang kaya akan rasa-perasaan, imajinasi, dan kreasi. KT membuat pengalaman berpikir dan ber-emosi manusia berkurang, yang pada gilirannya melemahkan keterampilan manusia dalam kedua jenis pengalaman khas manusia. Ironisnya pengalaman subjek justru yang telah membantu manusia berevolusi hingga sampai dalam keadaan sekarang.
Perubahan dan perkembangan selalu terjadi dalam sejarah peradaban manusia. Teknologi sendiri merupakan salah satu faktor pengubah dan yang mengubah peradaban manusia. Â Perubahan sulit ditolak. Sebab teknologi menjadi aspek peradaban manusia itu sendiri. Oleh sebab itu daripada energi manusia dihabiskan untuk bersikap antipati atau menolak perkembangan teknologi, lebih baik membangun sikap yang lebih akomodatif, sehingga teknologi KT dapat menjadi mitra kerja manusia dengan sinergis. Dari sini tujuan kajian KT sebetulnya upaya menjaga ciri manusia yang mampu berpikir, menimbang-nimbang, memutuskan, bergumul dan merumuskan pemikiran, bergulat dengan kesulitan, dst.. Di situlah justru kemanusiaan berkembang, melanggengkan evolusi manusia yang semakin kaya dengan berbagai corak.
