Gonjang-ganjing OpenAI yang dimulai minggu lalu seolah terlihat berakhir. Latar belakang mengapa Sam Altman dipecat dari OpenAI masih menjadi misteri. Namun, beberapa laporan media menyebutkan ada perkembangan dahsyat di OpenAI, yang bisa menjadi latar belakang  mengapa Altman sempat ditendang, meski segera dikembalikan lagi ke posisinya semula, yaitu CEO OpenAI.
Beberapa orang dalam di OpenAI percaya bahwa gonjang-ganjing itu berkaitan dengan Q-Star (Q*) yang merupakan AI model terbaru yang sedang dikembangkan OpenAI. Q-Star ini bisa menjadi terobosan dalam pengembangan AGI (Artificial General Intelligence). Sehingga bisa disebut OpenAI hanya memerlukan 1 langkah lagi untuk mencapai AGI.
AGI, seperti yang didefinisikan oleh OpenAI, mengacu pada sistem otonom yang melampaui kemampuan manusia dalam hampir semua "economically valuable tasks". Para peneliti di OpenAI ini menyebutkan bahwa Q-Star telah mencapai tahap yang berpotensi mengancam kemanusiaan.
Beberapa laporan media lain juga mengklaim mendapat bocoran bahwa para peneliti di OpenAI telah mengirim surat kepada BOD OpenAI untuk memberi tahu mereka tentang potensi ancaman dari pencapaian Q-Star itu. Sehari kemudian, Sam Altman dipecat.
Apa itu Q-Star?
Berbagai laporan itu menunjukkan bahwa Q-Star telah mampu menyelesaikan soal-soal matematika di tingkat sekolah dasar. Itu mungkin terlihat seperti prestasi kecil, namun itu adalah ukuran bahwa kemampuan AI yang sebelumnya, yaitu generative AI telah terlewati dan sekarang berproses menjadi AGI.
Sebagaimana kita tahu, sekarang generative AI hanya unggul dalam menulis dan penerjemahan bahasa dengan cara memprediksi kata berikutnya secara statistik. Namun tidak memiliki kemampuan untuk menyelesaikan soal-soal matematika, di mana hanya ada satu jawaban yang benar. Itu menyiratkan AI akan memiliki kemampuan penalaran yang lebih menyerupai kecerdasan manusia. Kemampuan ini bisa atau bakal diterapkan pada berbagai penelitian ilmiah.
AGI tentu bukan seperti kalkulator yang dapat menyelesaikan sejumlah operasi terbatas, AGI dapat menggeneralisasi, belajar, dan memahami apapun. Ini adalah langkah maju yang signifikan dalam peradaban manusia yang pasti memicu disruption dalam peradaban manusia.
Perkembangan itu memberikan peluang positif, namun sekaligus juga kekhawatiran. Salah satu yang ditekankan oleh para peniliti OpenAI dalam surat kepada BOD itu, menyoroti soal keamanan yang belum didefinisikan atau belum dirancang. Padahal soal keamanan ini sudah menjadi topik diskusi yang menggegerkan di seluruh dunia di antara computer & AI scientists sejak ChatGPT diluncurkan tahun lalu.
Semua orang tahu, Sam Altman yang telah membuat beberapa investor terlibat dalam pengembangan AI di OpenAI. Microsoft adalah investor terbesar dengan belasan miliar dolar yang digelontorkan ke OpenAI sejak 2015.
Altman bahkan minggu lalu sesumbar di the Asia-Pacific Economic Cooperation summit, bahwa ia meyakini kemajuan besar (di OpenAI) sudah terlihat. Banyak orang menebak yang dimaksud oleh Sam mengenai kemajuan besar itu adalah soal AGI yang dikembangkan OpenAI.
Ini kutipannya: "Four times now in the history of OpenAI, the most recent time was just in the last couple of weeks, I've gotten to be in the room, when we sort of push the veil of ignorance back and the frontier of discovery forward, and getting to do that is the professional honor of a lifetime."
Sehari kemudian Sam Altman dipecat dari OpenAI.
M. Jojo Rahardjo
Sejak 2015 menulis ratusan artikel & video seputar perkembangan neuroscience dan kaitannya dengan berbagai aspek kehidupan.
Baca konten-konten menarik Kompasiana langsung dari smartphone kamu. Follow channel WhatsApp Kompasiana sekarang di sini: https://whatsapp.com/channel/0029VaYjYaL4Spk7WflFYJ2H
