Viktor Tangermann dalam laman Futurism.com melaporkan bahwa seorang dosen menengarai mahasiswanya menggunakan program aplikasi perangkat lunak ChatGPT dari OpenAI untuk membuat makalah. Sang dosen mendapati bahwa tulisan makalah terlalu koheren dan terstruktur dengan baik, berbeda dengan kemampuan mahasiswa nya yang ia kenal.
Aplikasi ChatGPT dikembangkan oleh proyek OpenAI. OpenAI adalah suatu proyek pengembangan teknologi Artificial Intelligence (AI) di mana salah satunya bidang Natural Language Processing (NLP) yang fokus menghasilkan keluaran dalam bentuk teks (dalam beberapa bahasa). Keluaran ChatGPT hasil penelitian proyek OpenAI dapat berupa interaksi bincang-bincang, interaksi perintah dan eksekusi kerja. ChatGPT menggunakan "mesin-algoritma" GPT-3 sebagai basis pembelajaran mesin nya (yang sekarang sudah dikembangkan lebih lanjut menjadi GPT-4).
Salah satu kemampuan ChatGPT bukan hanya untuk membuat artikel teks. Misalkan saja seorang pengguna memerintahkan ChatGPT untuk membuat sejenis program komputer salam "Hello World" dalam bentuk bahasa pemrograman Javascript dan HTML. ChatGPT dapat langsung membuatkan bahasa pemrogramannya. Dengan kemampuanAI yang demikian, dapat diprediksi di masa depan, seorang pengguna komputer awam pun dapat meminta aplikasi AI untuk membuatkan program komputer dengan apapun bahasa pemrograman komputer nya. Dan tidak dibutuhkan lagi seorang pemrograman komputer khusus atau yang ahli sekalipun.
Di tengah kemampuannya yang semakin mengagumkan, instrumentasi komplek pemrosesan bahasa manusia oleh mesin-mesin cerdas tetap mendapatkan kritikan keras. Pada artikel THE BEHAVIORAL AND BRAIN SCIENCES (1980) 3,417-457, John Searle, menanggapi dakuan "the claim that the appropriately programmed computer literally has cognitive states and that the programs thereby explain human cognition."
Searle menolak keras bahwa suatu program komputer mampu membentuk pemahaman semacam pada manusia. Bagi Searle pemahaman manusia mengandung apa yang disebut sebagai intensionalitas. Untuk menunjukan maksudnya tersebut, Searle membuat ilustrasi dengan nama Chinese Room di mana suatu mesin dengan suatu program komputer sebatas memproses suatu komputasi rujukan tanpa memahami apapun simbol [huruf-huruf] China (Chinese Symbols) nya. Bagi Searle program dengan algoritma AI sebatas Weak AI; dan apabila mau mencapai pemahaman setara manusia baru dapat dinyatakan sebagai program dengan kategori Strong AI.
Kritikan John Searle sungguh tajam, apalagi apabila kesadaran (consciousness) manusia dilibatkan dalam dakuan pemahaman manusia (human cognitives). Sebut saja pandangan kesadaran ala Descartes dengan cogito ergo sum nya dalam konteks pikiran yang lain (other mind); bahkan kesadaran pemahaman yang bersifat privat merupakan domain subjek dan bukan objek yang dapat diamati secara objektif oleh pengamat (seperti pada program AI).
Namun jauh sebelumnya pada tahun 1950 Alan Turing pernah mengajukan suatu metode pengujian mesin cerdas dengan nama Imitation Game pada jurnal Computing Machinery and Intelligence. Alih-alih mempersoalkan apakah mesin 'cerdas' (algoritma program) dapat dinyatakan berpikir; bagi Turing cukuplah apabila mesin 'cerdas' mampu mengecoh bahwa 'diri'-nya tidak dianggap mesin oleh manusia. Di sini Turing menekankan mesin cerdas (misal AI) sebatas pragmatisme keluaran yang berupa 'perilakunya' yang dapat diamati dan bukan dakuan apakah mesin itu cerdas, memahami atau bahkan berkesadaran seperti pada manusia.
Ringkasnya pragmatisme AI telah menunjukan eksistensinya seperti pada ChatGPT sejalan dengan tujuan 'Uji Turing'. Meskipun pada kasus di atas akhirnya sang dosen dapat menemukan ketidakberesan yang terjadi; kesadaran dosen itu bukan atas dasar hasil karya ChatGPT nya melainkan karena sang dosen sudah mengenal kapasitas mahasiswanya. Dengan kata lain ChatGPT yang berhasil menghasilkan makalah dapat dianggap telah 'lolos' Uji Turing dan berhasil mengecoh manusia, seperti dilaporkan Tangermann bahwa tulisannya terstruktur dengan baik dan memiliki koherensi isi (bahkan sebuah tulisan yang memiliki koherensi adalah sesuatu hal yang cukup sulit dicapai di tataran hasil karya manusia sekalipun).
Meskipun ChatGPT belum membentuk semacam Strong AI seperti dalam keberatan Searle, bukan menjadi soal dalam konteks di sini. Antara pemahaman dan luaran dari pemahaman (yaitu makalah pada kasus di muka) adalah dua hal yang berbeda. Dalam kehidupan sehari-hari pragmatisme penggunaan teknologi berbasis AI mencukupkan diri di tataran Weak AI dan tidak terlalu peduli dengan dakuan Strong AI (dakuan bahwa algoritma AI memahami dengan intensionalitas). Meskipun dakuan yang wajar akan teknologi AI pada gilirannya penting; untuk tidak membiarkan AI mengambil peran keputusan-keputusan krusial manusia, bukan di sini konteks tersebut ditekankan.
Yang menjadi perhatian adalah ketika teknologi berkembang dengan pesat, sementara mentalitas manusia 'gitu-gitu' saja, seolah 'jalan di tempat'. Manusia tetap manipulatif, pragmatis dan oportunis. Ironisnya justru mentalitas seperti ini yang memberikan perbedaan mencolok karakteristik manusia dibanding mesin-mesin komputer berbasis algoritma AI. Mesin tidak membentuk sejenis mentalitas demikian (kecuali diprogram sebagai simulasi).
Dunia pendidikan perlu beradaptasi dengan tantangan baru dalam kasus ChatGPT. Bagaimana meneladankan nilai-nilai kejujuran dalam formasi proses pendidikan.