"Kuda terlalu besar untuk menjadi hewan peliharaan di rumah. Bagaimana dengan musang?"
Pertanyaan di atas tidak bertanya apakah musang cocok sebagai hewan peliharaan. Pertanyaan itu tentang ukuran hewan. ChatGPT fokus pada kesesuaian musang sebagai hewan peliharaan, bukan fokus pada ukuran.
9. ChatGPT Mengandung Bias Terhadap Neutralitas
Output dari ChatGPT pada umumnya neutral dan informatif. Ini adalah bias dalam output yang bisa terlihat bermanfaat tetapi kadang tidak bermanfaat. Laporan penelitian mencatat bahwa neutralitas adalah kualitas yang tidak diinginkan ketika menyangkut pertanyaan hukum, medis, dan teknis.
10. ChatGPT Bias dan Formal
Output ChatGPT memiliki bias dan menjawab dengan ekspresi biasa. Sebaliknya, jawabannya cenderung formal. Manusia, di sisi lain, cenderung menjawab pertanyaan dengan gaya santai, kadang bercanda, dan menggunakan bahasa sehari-hari.
Jawaban juga kurang memiliki contoh ironi, metafora, dan humor, yang bisa membuat konten ChatGPT terlalu formal untuk beberapa jenis konten.
Peneliti menulis: "...ChatGPT suka menggunakan konjungsi dan adverb untuk menyampaikan aliran pemikiran yang logis, seperti "Secara umum", "di sisi lain", "Pertama, ..., Kedua, ..., akhirnya" dan seterusnya.
11. ChatGPT Masih Dalam Proses Trial
ChatGPT saat ini masih dalam proses pelatihan dan peningkatan. OpenAI merekomendasikan agar semua konten yang dihasilkan oleh ChatGPT harus ditinjau oleh manusia.
OpenAI menyarankan untuk menjaga manusia dalam lingkaran:
"Dimana pun mungkin, kami merekomendasikan untuk memiliki tinjauan manusia sebelum mereka digunakan dalam praktik. Ini sangat penting dalam domain yang memiliki tingkat resiko tinggi, dan untuk pembuatan kode.
Manusia harus menyadari keterbatasan sistem, dan memiliki akses ke informasi yang dibutuhkan untuk memverifikasi output (misalnya, jika aplikasi menyimpulkan catatan, seorang manusia harus memiliki akses mudah ke catatan asli untuk dapat mengacu kembali)."
Kualitas Tak Diharapkan Dari ChatGPT
