Namun terlepas dari semua hal baik yang dapat Anda lakukan dengan chatbot, Anda juga perlu menyadari kemungkinan penggunaannya oleh orang-orang dengan niat jahat. Karena ChatGPT telah dilatih pada data dalam jumlah besar, ChatGPT mengetahui banyak informasi yang dapat dijadikan senjata jika jatuh ke tangan yang salah.
CEO OpenAI Sam Altman mengatakan kepada Kongres AS pada bulan Mei bahwa intervensi pemerintah sangat penting untuk memitigasi risiko sistem AI yang semakin kuat. "Seiring dengan kemajuan teknologi, kami memahami bahwa masyarakat cemas mengenai bagaimana teknologi dapat mengubah cara hidup kita. Kami juga demikian," katanya.
Senator Richard Blumenthal, ketua subkomite Komite Kehakiman Senat untuk privasi, teknologi dan hukum membuka sidang dengan rekaman pidato yang terdengar seperti suaranya padahal sebenarnya merupakan tiruan suara yang dilatih pada pidato dasar Blumenthal dan membacakan pembukaan yang ditulis oleh ChatGPT.
Blumenthal terkesan, namun juga khawatir: "Bagaimana jika saya memintanya, dan bagaimana jika ia memberikan, dukungan terhadap penyerahan Ukraina atau kepemimpinan Presiden Rusia Vladimir Putin?"
Senator mengatakan perusahaan AI harus diminta untuk menguji sistem mereka dan mengungkapkan risiko yang perlu diketahui sebelum merilisnya. Dia menyatakan keprihatinan khusus mengenai bagaimana sistem AI di masa depan dapat mengganggu stabilitas pasar kerja.
Ketika para senator Amerika menanyakan Altman mengenai ketakutan terburuknya terhadap AI, beliau berkata bahwa industri ini berpotensi menimbulkan "kerusakan besar bagi dunia" dan "jika teknologi ini salah, maka bisa jadi sangat buruk."Â
