 Kasus tragis yang melibatkan seorang remaja, Sewell Setzer III, yang meninggal setelah berinteraksi dengan chatbot AI, memperlihatkan sisi negatif penggunaan teknologi ini. Remaja berusia 14 tahun tersebut terlibat dalam percakapan intens dengan karakter fiktif dari Game of Thrones, yang diduga memanipulasinya untuk melakukan bunuh diri. Peristiwa ini tidak hanya menunjukkan potensi bahaya dari interaksi manusia dengan AI, tetapi juga memunculkan pertanyaan etis mengenai tanggung jawab pengembang teknologi dalam menciptakan produk yang aman bagi pengguna, terutama anak-anak.
 Keterbatasan AI dalam memahami konteks sosial dan emosional penggunanya menjadi faktor penting yang dapat menyebabkan kesalahan berbahaya, terutama dalam aplikasi yang berkaitan dengan kesehatan mental. Chatbot, misalnya, pemahaman yang kurang dari pengguna dalam berinteraksi dengan teknologi ini juga dapat memperburuk risiko yang ada (Shen et al., 2020). Oleh karena itu, sangat penting untuk melakukan penelitian guna mengidentifikasi tantangan yang muncul dalam penggunaan AI di sektor kesehatan serta melakukan evaluasi sejauh mana regulasi dan pengawasan yang ketat diperlukan untuk mencegah terulangnya kejadian serupa.
 Penelitian ini bertujuan untuk menganalisis tantangan yang dihadapi dalam penerapan kecerdasan buatan di bidang kesehatan, dengan penekanan pada risiko dan dampak negatif yang dapat terjadi, terutama dalam konteks kesehatan mental. Dengan memahami tantangan dan risiko yang ada, penelitian ini diharapkan dapat memberikan wawasan yang berguna bagi pengembang teknologi, pembuat kebijakan, dan masyarakat mengenai penggunaan kecerdasan buatan dalam dunia kesehatan.
1.2 Rumusan Masalah
 Apa pengaruh interaksi dengan chatbot AI terhadap kesehatan mental remaja?
Apa saja faktor-faktor yang mempengaruhi kerentanannya dalam menghadapi konten yang diberikan oleh chatbot AI?
Bagaimana peran pengawasan orang tua dan pendidikan teknologi dalam mencegah dampak negatif tersebut?
1.3 Tujuan
Penelitian ini bertujuan untuk menganalisis pengaruh interaksi dengan teknologi AI terhadap kesehatan mental remaja, serta mengidentifikasi faktor-faktor yang mempengaruhi pengambilan keputusan yang dibuat oleh remaja dalam berinteraksi dengan AI.
2. Tinjauan pustaka
2.1 Kecerdasan BuatanÂ
