Seorang streamer Twitch tertangkap di sebuah situs web karena membuat pornografi yang dihasilkan oleh AI dari teman-temannya. Sekelompok siswa di New York membuat video kepala sekolah mereka yang mengucapkan kata-kata rasis dan mengancam para siswa. Di Venezuela, video-video tersebut digunakan untuk menyebarkan propaganda politik.
Dalam ketiga kasus tersebut, video yang dihasilkan oleh AI dibuat dengan tujuan untuk meyakinkan Anda bahwa seseorang melakukan sesuatu yang sebenarnya tidak pernah mereka lakukan. Ada istilah untuk konten semacam ini: Pemalsuan.