Ancaman Nyata Kecerdasan Artifisial (AI) Bagi Peradaban Manusia

Dengan penguasaan bahasa ini maka AI memegang kunci utama untuk membuka pintu-pintu semua institusi kita dari mulai perbankan sampai tempat ibadah, Karena bahasa adalah sarana kita untuk memberikan instruksi kepada perbankan kita, dan juga untuk memberikan inspirasi surgawi kepada pikiran kita. Dengan kata lain, AI memiliki kemampuan untuk meretas sistem operasi (operation system) dari peradaban manusia. 

Sistem operasi dari semua  budaya manusia adalah bahasa yang pada awalnya merupakan kumpulan kata-kata. Kita menggunakan bahasa untuk menciptakan mitologi, hukum-hukum; Tuhan, uang, seni dan sains, pertemanan dan bahasa. Misalnya Hak Azasi Manusia (HAM) bukanlah realitas biologi, tidak tertera di dalam DNA kita, HAM adalah sesuatu yang kita ciptakan dengan bahasa dengan menceritakan dan menulis hukum-hukum. Tuhan, uang, kriptokurensi itu semua tidak memiliki realitas sejati. Itu semua hanya ciptaan dari para pembuat cerita yang ulung.

Dengan segala kemampuan AI yang terus berkembang, maka timbul pertanyaan apakah makna hidup di dunia yang di dalamnya sebagian besar cerita, melodi, gambar-gambar, kebijakan-kebijakan, hukum-hukum, dan berbagai perangkat diciptakan oleh oleh kecerdasan non-manusiawi asing yang mengetahui bagaimana mengeksploitasi dengan efisiensi super yang mengatasi berbagai kelemahan dan kekurangan pikiran manusia dan mengetahui bagaimana membangun hubungan yang erat dan dalam dengan manusia. Sekarang AI bisa menciptakan sebuah program catur yang manusia sendiri saja tidak bisa mengalahkannya. Bayangkan, bagaimana hal ini bisa terjadi di dalam seni, politik dan ekonomi dan bahkan di dalam agama kita.

Saat orang-orang membicarakan Chat GPT orang-orang heboh karena para siswa sekarang mengerjakan berbagai tugas sekolah dengan Chat GPT dan tentu saja ini mengancam sekolah. Tentu saja, ini menakutkan. Tetapi ketakutan ini melupakan gambar besarnya. Misalnya QAnon Cult telah berusaha untuk membuat sebuah teks sakral yang direview oleh manusia. 

Tetapi mungkin tidak lama lagi akan ada teks agama yang dibuat oleh agen non-human intelligen. Dan tentu saja semua agama dunia mengklaim bahwa kitab suci mereka dibuat oleh intelligen non-human. Mungkin tidak dalam waktu dekat, tetapi tidak akan lama lagi. Mungkin juga sekarang kita mendiskusikan secara online berbagai hal seperti krisis Ukraina yang kita kira pesertanya adalah sesama manusia, padahal kenyataannya adalah bot-bot AI. Dengan kemampuan bahasa dan membangun keakraban maka AI akan bisa mempengaruhi persepsi politik kita.

Dengan kemampuan dahsyat tersebut Harari merekomendasikan untuk membuat regulasi yang tegas terhadap pengembangan AI sebelum bencana peradaban kemanusiaan terjadi akibat dampak negatif dari AI.