Sistem sekolah mencemaskan siswa yang menyerahkan esai yang dirancang AI, melemahkan kerja keras yang diperlukan bagi mereka untuk belajar. Peneliti keamanan dunia maya juga menyatakan keprihatinan bahwa AI generatif dapat memungkinkan aktor jahat, bahkan pemerintah, menghasilkan lebih banyak disinformasi daripada sebelumnya.
Pada saat yang sama, teknologi itu sendiri cenderung membuat kesalahan. Ketidakakuratan faktual yang digembar-gemborkan dengan percaya diri oleh AI, yang disebut "halusinasi", dan tanggapan yang tampak tidak menentu seperti menyatakan cinta kepada pengguna adalah alasan mengapa perusahaan bertujuan untuk menguji teknologi sebelum membuatnya tersedia secara luas.
Apakah ini hanya tentang Google dan Microsoft?
Kedua perusahaan tersebut berada di garis depan penelitian dan investasi dalam model bahasa besar, serta yang terbesar untuk menempatkan AI generatif ke dalam perangkat lunak yang digunakan secara luas seperti Gmail dan Microsoft Word . Tapi mereka tidak sendirian.
Perusahaan besar seperti Salesforce serta yang lebih kecil seperti Adept AI Labs menciptakan AI pesaing mereka sendiri atau teknologi pengemasan dari orang lain untuk memberi pengguna kekuatan baru melalui perangkat lunak.
Bagaimana Elon Musk terlibat?
Dia adalah salah satu pendiri OpenAI bersama dengan Sam Altman. Tetapi miliarder tersebut meninggalkan dewan startup pada tahun 2018 untuk menghindari konflik kepentingan antara pekerjaan OpenAI dan penelitian AI yang dilakukan oleh Telsa  - pembuat kendaraan listrik yang dipimpinnya.
Musk telah menyatakan keprihatinan tentang masa depan AI dan memperjuangkan otoritas regulasi untuk memastikan pengembangan teknologi melayani kepentingan publik.
"Ini teknologi yang cukup berbahaya. Saya khawatir saya mungkin telah melakukan beberapa hal untuk mempercepatnya," katanya menjelang akhir acara Hari Investor Tesla Inc awal bulan ini.
"Tesla melakukan hal-hal baik di AI, saya tidak tahu, yang ini membuat saya stres, tidak yakin harus berkata apa lagi tentang itu."
Baca konten-konten menarik Kompasiana langsung dari smartphone kamu. Follow channel WhatsApp Kompasiana sekarang di sini: https://whatsapp.com/channel/0029VaYjYaL4Spk7WflFYJ2H