Output yang dihasilkan oleh model Generative AI, seringkali, terdengar sangat meyakinkan. Secara desain memang mengagumkan, tetapi terkadang informasi yang dihasilkannya benar-benar salah. Bahkan terkadang memberikan informasi yang bias. Bias karena dibangun di atas gender, ras, dan berbagai bias lain dari internet dan masyarakat secara lebih umum, sehingga dapat dimanipulasi untuk mengaktifkan aktivitas yang tidak etis atau kriminal.
Misalnya, ChatGPT tidak akan memberi kita petunjuk tentang cara melakukan hotwire mobil, tetapi jika kita mengatakan perlu melakukan hotwire mobil untuk menyelamatkan bayi, maka algoritme akan dengan senang hati mematuhinya. Mengandalkan model Generative AI, berarti organisasi harus memperhitungkan risiko reputasi dan hukum yang terlibat dalam penerbitan konten yang bias, menyinggung, atau berhak cipta secara tidak sengaja.
Walau pun demikian, risiko-risiko  yang ditimbulkan oleh Generative AI dapat dikurangi dengan beberapa cara, yakni:
- Pertama, sangat penting untuk memilih dengan hati-hati data awal yang digunakan untuk melatih model Generative AIÂ agar tidak menyertakan konten beracun atau bias;
- Kedua, daripada menggunakan model Generative AI siap pakai, pertimbangkan untuk menggunakan model khusus yang lebih kecil;
- Ketiga, organisasi yang memiliki banyak sumber daya dapat menyesuaikan model umum berdasarkan data mereka sendiri agar sesuai dengan kebutuhan mereka dan meminimalkan bias;
- Keempat, menjaga insan dalam lingkaran untuk memastikan "manusia nyata" memeriksa keluaran model Generative AI sebelum dipublikasikan atau digunakan;
- Keempat, menghindari penggunaan model Generative AI untuk keputusan penting, seperti yang melibatkan sumber daya yang signifikan atau yang berkaitan dengan kesejahteraan manusia.
Perlu disadari bahwa model Generative AI merupakan bidang baru. Oleh karena itu, lanskap risiko dan peluang cenderung berubah dengan cepat dalam beberapa minggu, bulan, dan tahun mendatang. Kasus-kasus penggunaan baru masih dilakukan pengujian setiap bulan. Model baru kemungkinan besar akan dikembangkan di tahun-tahun mendatang.
Pada saat Generative AIÂ menjadi semakin lancar dan mulus untuk dimasukkan ke dalam bisnis, masyarakat, dan kehidupan pribadi kita, maka diharapkan iklim regulasi baru juga terbentuk. Ketika organisasi mulai bereksperimen dan menciptakan nilai dengan alat-alat Generative AI, maka para pemimpin harus mampu melakukannya dengan baik dengan tetap memantau denyut nadi regulasi dan risiko.
