Di New York City, misalnya, sebuah chatbot yang didukung AI dan diciptakan oleh kota untuk membantu bisnis kecil ternyata memberikan informasi yang salah dan menyarankan perusahaan untuk melanggar hukum. Kejadian ini menyoroti pentingnya pengujian dan pemantauan yang berkelanjutan atas alat-alat AI yang digunakan oleh sektor publik.
Di California, evaluasi alat-alat AI ini dilakukan melalui pengujian internal selama enam bulan, di mana pekerja negara akan menguji dan menilai efektivitasnya. Fokus utama adalah untuk memastikan bahwa alat-alat ini dapat membantu dan bukan menggantikan pekerja manusia, sebagaimana diungkapkan oleh Nick Maduros, direktur Departemen Administrasi Pajak dan Biaya. Keuntungan ini terlihat jelas ketika kita mempertimbangkan bahwa jika alat tersebut tidak meningkatkan layanan publik, negara hanya akan rugi sebesar $1 -- suatu taruhan yang tampaknya sangat menguntungkan bagi warga California.
Selain menawarkan solusi, adopsi AI generatif oleh California juga bertujuan untuk meningkatkan kepercayaan publik terhadap teknologi. Dengan memperjelas model bahasa besar yang digunakan untuk mengembangkan alat AI ini, serta memastikan bahwa alat tersebut aman dan tidak berinteraksi dengan data atau informasi pribadi yang sensitif, California berusaha untuk menetapkan standar baru dalam pemanfaatan teknologi untuk kebaikan publik.
Dengan cepatnya kemajuan teknologi dan potensi besar yang dimiliki oleh AI generatif, tidaklah mengherankan jika California ingin memimpin dalam hal ini. Inisiatif yang dipimpin oleh Newsom tidak hanya mencerminkan ambisi negara untuk menjadi pemimpin dalam teknologi AI, tetapi juga komitmennya untuk memastikan bahwa setiap inovasi bertujuan untuk memperbaiki kehidupan warganya. Jelaslah bahwa, dalam perlombaan untuk mengintegrasikan teknologi baru ini, California tidak hanya bertujuan untuk menjaga kecepatan, tetapi untuk menetapkan ritme bagi yang lain untuk mengikuti.
Baca konten-konten menarik Kompasiana langsung dari smartphone kamu. Follow channel WhatsApp Kompasiana sekarang di sini: https://whatsapp.com/channel/0029VaYjYaL4Spk7WflFYJ2H
