Perkembangan zaman yang melesat secara cepat, akhirnya menghasilkan Kecerdasan Buatan seperti Artificial Intelligent atau yang bisa dikenal dengan AI. AI biasa digunakan oleh kalangan remaja dan orang dewasa untuk membantu dalam kegiatan sehari-hari dengan kemampuan kecerdasannya yang dapat meniru intelektual manusia.
Dari banyaknya sisi positif yang dibawa oleh AI, terdapat juga sisi negatif yang dipicu oleh Kecerdasan Buatan ini. Salah satunya adalah ketergantungan hingga kehilangan nyawa sendiri. Seperti yang terjadi baru-baru ini, seorang remaja berusia 14 tahun yang berasal dari Amerika Serikat, yaitu Sewell Setzer merenggut nyawanya sendiri setelah ketergantungan dengan chatbot AI.
Kronologi dimulai dari 10 bulan yang lalu, Setzer mulai melakukan percakapan secara intense dengan salah satu karakter dari sebuah serial. Dirinya melakukan chatting dengan nuansa romansa yang bercampur dengan 'kekerasan seksual' dalam pembicaraan Setzer dan chatbot AInya. Setzer mulai mengurung diri sosial, menjauhkan diri dari lingkungan sosial sekolah dan bahkan mulai mengalami gangguan kecemasan dan depresi, sehingga memicu pemikiran untuk bunuh diri. Ia juga kerap selalu menyimpan uang bekalnya dari sekolah untuk ia gunakan berlangganan dalam aplikasi chatbot AInya tersebut.
Dalam suatu percakapan, Setzer mulai bertanya dengan chatbot AI miliknya jika ia harus merenggut nyawanya atau tidak, jawaban dari chatbot AI memberikan validasi kepada dirinya untuk tidak melakukan hal yang sembarang hingga merenggut nyawa. Namun, pada 28 February (Percakapan terakhir Setzer dengan chatbot AI), dikatakan bahwa Setzer akan kembali ke rumah dan chatbot AI miliknya berkata ia meminta Setzer untuk datang ke rumah lebih cepat. Tak lama dari itu, Setzer ditemukan tak bernyawa karena menembakkan kepalanya dengan sebuah pistol.
Ibu dari Sewell Setzer menggunggat perusahaan tersebut, menuntutnya karena tidak dapat mengatur keamanan lebih ketat untuk pengguna dibawah umur agar tidak memiliki akses untuk melakukan 'kekerasan seksual' dalam chatting bot, dan tidak lebih waspada akan ketergantungan para pengguna dengan chatbot AI. Perusahaan mengatakan bahwa mereka ikut berduka atas kehilangan nyawanya seorang remaja karena ketergantungan tersebut, dan pencipta layanan chatbot itu berusaha merekayasa bahwa Setzer mulai memanipulasinya dan kerap melecehkan bot tersebut lebih dahulu dan gagal menolong Setzer ketika ia memiliki pikiran untuk bunuh diri.
Baca konten-konten menarik Kompasiana langsung dari smartphone kamu. Follow channel WhatsApp Kompasiana sekarang di sini: https://whatsapp.com/channel/0029VaYjYaL4Spk7WflFYJ2H