"AI generatif dapat membuat email dengan tata bahasa yang sempurna, membuatnya tampak sah dan mengurangi kemungkinan ditandai sebagai email yang mencurigakan," kata Kelley.
"Penggunaan AI generatif mendemokratisasi eksekusi serangan BEC yang canggih. Bahkan penyerang dengan keterampilan terbatas pun dapat menggunakan teknologi ini, menjadikannya alat yang dapat diakses oleh spektrum penjahat siber yang lebih luas."
Pengungkapan ini muncul ketika para peneliti dari Mithril Security "membedah" model AI open-source yang dikenal sebagai GPT-J-6B untuk menyebarkan disinformasi dan mengunggahnya ke repositori publik seperti Hugging Face yang kemudian dapat diintegrasikan ke dalam aplikasi lain, yang mengarah pada apa yang disebut sebagai peracunan rantai pasokan LLM.
Keberhasilan teknik ini, yang dijuluki PoisonGPT, bergantung pada prasyarat bahwa model yang dilobotomi diunggah menggunakan nama yang menyamar sebagai perusahaan yang dikenal, dalam hal ini, versi salah ketik dari EleutherAI, perusahaan di balik GPT-J.
Artikel ini merupakan terjemahan dari berita yang berjudul WormGPT: New AI Tool Allows Cybercriminals to Launch Sophisticated Cyber AttacksÂ
Baca konten-konten menarik Kompasiana langsung dari smartphone kamu. Follow channel WhatsApp Kompasiana sekarang di sini: https://whatsapp.com/channel/0029VaYjYaL4Spk7WflFYJ2H
