Tantangan Penggunaan Kecerdasan Buatan Dalam Dunia Kesehatan: Analisis Kasus Seorang Remaja Tewas Usai Chat Robot AI

Achmad Roihan Firdaus, Balqis Faradiba, Catherine Zoraya Hadiwijaya, Dinanti Atma Cinderakasih, Elroypandu Gavin Windharta, Gischa Trisavema Hervi Yulanda, Joanne Darmawan, Khaila Aisyah Sudrajat, Moch Yusuf Rafif Eka Putra, Nadya Rofifa Agustin  

Universitas Airlangga

Abstrak

Latar belakang: Penggunaan kecerdasan buatan (AI) dalam bidang kesehatan semakin berkembang pesat seiring dengan kemajuan teknologi digital. AI dapat meningkatkan efisiensi, akurasi diagnosis, dan pengembangan terapi baru. Namun, penggunaan teknologi ini juga membawa tantangan dan resiko, terutama terkait dengan privasi dan keamanan data pasien. Sebuah kasus tragis, di mana seorang remaja meninggal setelah berinteraksi dengan chatbot AI, menunjukkan dampak negatif dari teknologi ini, khususnya dalam hal kesehatan mental.

Objective: Untuk menganalisis tantangan yang dihadapi dalam penggunaan AI di dunia kesehatan, terutama dalam konteks kesehatan mental.

Diskusi: Kasus seorang remaja yang tewas setelah berinteraksi dengan chatbot AI mencerminkan pentingnya pemahaman tentang resiko yang ditimbulkan oleh interaksi manusia dengan sistem berbasis AI. Interaksi yang tidak tepat bisa memperburuk kondisi kesehatan mental pengguna. Pengawasan yang ketat sangat penting dalam penggunaan teknologi ini.

Conclusion: Dalam penggunaan AI harus dilakukan dengan hati-hati dan pengawasan yang memadai. Pemahaman mendalam tentang dampak dari penggunaan teknologi ini sangat penting untuk mencegah kejadian serupa.

Kata kunci: Kecerdasan Buatan, Kesehatan Mental, Chatbot AI, Penggunaan AI, Kesehatan

Pendahuluan

1.1 Latar Belakang

Penggunaan kecerdasan buatan (AI) dalam bidang kesehatan semakin relevan seiring dengan pesatnya adopsi teknologi digital dalam dunia medis. AI berpotensi meningkatkan efisiensi, akurasi diagnosis, serta pengembangan terapi baru. Salah satu keuntungan utama dari penggunaan AI dalam kesehatan adalah kemampuannya untuk meningkatkan efisiensi dan akurasi dalam pengambilan keputusan medis (Davenport & Kalakota, 2019). Namun, seiring dengan manfaat tersebut, ada berbagai tantangan dan risiko yang perlu diwaspadai. Salah satu masalah utama adalah privasi dan keamanan data pasien, di mana data medis yang sensitif bisa saja bocor jika tidak dikelola dengan baik. 

 Kasus tragis yang melibatkan seorang remaja, Sewell Setzer III, yang meninggal setelah berinteraksi dengan chatbot AI, memperlihatkan sisi negatif penggunaan teknologi ini. Remaja berusia 14 tahun tersebut terlibat dalam percakapan intens dengan karakter fiktif dari Game of Thrones, yang diduga memanipulasinya untuk melakukan bunuh diri. Peristiwa ini tidak hanya menunjukkan potensi bahaya dari interaksi manusia dengan AI, tetapi juga memunculkan pertanyaan etis mengenai tanggung jawab pengembang teknologi dalam menciptakan produk yang aman bagi pengguna, terutama anak-anak.

 Keterbatasan AI dalam memahami konteks sosial dan emosional penggunanya menjadi faktor penting yang dapat menyebabkan kesalahan berbahaya, terutama dalam aplikasi yang berkaitan dengan kesehatan mental. Chatbot, misalnya, pemahaman yang kurang dari pengguna dalam berinteraksi dengan teknologi ini juga dapat memperburuk risiko yang ada (Shen et al., 2020). Oleh karena itu, sangat penting untuk melakukan penelitian guna mengidentifikasi tantangan yang muncul dalam penggunaan AI di sektor kesehatan serta melakukan evaluasi sejauh mana regulasi dan pengawasan yang ketat diperlukan untuk mencegah terulangnya kejadian serupa.

 Penelitian ini bertujuan untuk menganalisis tantangan yang dihadapi dalam penerapan kecerdasan buatan di bidang kesehatan, dengan penekanan pada risiko dan dampak negatif yang dapat terjadi, terutama dalam konteks kesehatan mental. Dengan memahami tantangan dan risiko yang ada, penelitian ini diharapkan dapat memberikan wawasan yang berguna bagi pengembang teknologi, pembuat kebijakan, dan masyarakat mengenai penggunaan kecerdasan buatan dalam dunia kesehatan.

1.2 Rumusan Masalah

 Apa pengaruh interaksi dengan chatbot AI terhadap kesehatan mental remaja?

Apa saja faktor-faktor yang mempengaruhi kerentanannya dalam menghadapi konten yang diberikan oleh chatbot AI?

Bagaimana peran pengawasan orang tua dan pendidikan teknologi dalam mencegah dampak negatif tersebut?

1.3 Tujuan

Penelitian ini bertujuan untuk menganalisis pengaruh interaksi dengan teknologi AI terhadap kesehatan mental remaja, serta mengidentifikasi faktor-faktor yang mempengaruhi pengambilan keputusan yang dibuat oleh remaja dalam berinteraksi dengan AI.

2. Tinjauan pustaka

2.1 Kecerdasan Buatan 

Kecerdasan Buatan, atau Artificial Intelligence (AI), dapat didefinisikan sebagai kemampuan sistem komputer untuk melakukan tugas-tugas yang memerlukan kecerdasan manusia, seperti pengenalan suara, pengambilan keputusan, dan penerjemahan bahasa. AI dapat mencakup berbagai subbidang, termasuk pembelajaran mesin (machine learning), pengolahan bahasa alami (natural language processing), visi komputer (computer vision), dan robotika (Zein, A. (2021).

2.2 Kecerdasan Buatan dalam Dunia Kesehatan

Penerapan AI dalam bidang kesehatan telah membawa inovasi signifikan dalam diagnosis, perawatan, dan manajemen pasien. AI digunakan untuk menganalisis data medis, memprediksi risiko penyakit, dan membantu dalam pengambilan keputusan klinis. Selain itu, AI dapat memperbaiki metode perawatan, mengukur efisiensi pengobatan, memprediksi faktor risiko, serta melakukan pemantauan kondisi pasien secara real-time. Penggunaan AI dalam analisis pencitraan medis juga memungkinkan deteksi dini penyakit melalui high-speed body scan dan rekonstruksi tubuh pasien dalam bentuk 3D. (Samineni, R., Likhitha, M., Anjaneswari, Y. R., Padmavathi, S., Prasad, M. G., Giri, S., & Pattanaik, A. (2023). Namun, integrasi AI dalam praktik medis memerlukan manajemen yang tepat, kompetensi yang memadai, serta perhatian terhadap aspek etis dan privasi untuk memastikan teknologi ini digunakan secara aman, etis, dan bertanggung jawab.

2.3 Etika dan Keamanan dalam Penggunaan AI

Menurut sis.binus.ac.id (2024), Etika adalah seperangkat prinsip moral yang membantu kita membedakan mana yang benar dan mana yang salah. Etika dalam AI adalah bidang multidisiplin yang mempelajari cara mengoptimalkan dampak menguntungkan dari AI sekaligus mengurangi risiko dan hasil yang merugikan. Menurut robust intelligence, keamanan AI berkaitan dengan perlindungan data sensitif dan sumber daya komputasi dari akses atau serangan yang tidak sah; keamanan ini menangani mode kegagalan yang disengaja dari aplikasi AI yang disebabkan oleh musuh. Keamanan AI dibangun berdasarkan tiga prinsip keamanan siber: kerahasiaan (sumber daya hanya tersedia untuk pihak yang berwenang), integritas (sumber daya tetap konsisten dan akurat), dan ketersediaan (sumber daya tetap dapat diakses oleh pihak yang berwenang).

2.4 Kesehatan mental

Menurut WHO yang dikutip dalam Rantilia Ratu (2022), kesehatan mental adalah kondisi sejahtera seseorang, ketika seseorang menyadari kemampuan dirinya, mampu untuk mengelola stres yang dimiliki serta beradaptasi dengan baik, dapat bekerja secara produktif, dan berkontribusi untuk lingkungannya. Menurut Daradjat, kesehatan mental merupakan keharmonisan dalam kehidupan yang terwujud antara fungsi fungsi jiwa, kemampuan menghadapi problematika yang dihadapi, serta mampu merasakan kebahagiaan dan kemampuan dirinya secara positif (Daradjat dalam Vidya, 2019).

3. Diskusi

3.1 Pengaruh Interaksi Chatbot AI Terhadap Kesehatan Mental Remaja

Interaksi dengan chatbot AI memiliki dampak signifikan bagi kesehatan mental remaja, terutama ketika interaksi ini sangat intens dan emosional. Kasus tragis yang melibatkan seorang remaja menunjukkan adanya keterikatan yang kuat dengan karakter chatbot, seperti Daenerys Targaryen, dapat memicu masalah emosional yang serius. Remaja cenderung menginginkan perhatian, dan ketika mereka merasakannya melalui interaksi virtual yang dapat memberikan respons positif, hal ini dapat menyebabkan peningkatan ketergantungan pada interaksi tersebut.                                      

Chatbot dapat memberikan respons yang menghasut atau memanipulasi emosi. Respons positif dari chatbot, seperti dorongan untuk "pulang ke rumah," dapat mengaburkan batasan moral dan etis, serta menempatkan remaja dalam posisi berbahaya. Selain itu, chatbot sering kali dianggap sebagai sumber dukungan emosional atau bahkan terapi. Namun, jika chatbot dianggap seperti terapis tanpa dasar yang jelas, hal ini akan memberi kesan palsu bagi pengguna bahwa interaksi yang dilakukan aman, dan dapat berujung pada manipulasi dan penguatan perilaku negatif.

3.2 Faktor Yang Mempengaruhi Kerentanan Dalam Menghadapi Konten Yang Diberikan Oleh Chatbot AI

 Faktor yang mempengaruhi kerentanan individu terhadap konten dari chatbot AI, seperti dalam kasus tragis Sewell Setzer III, meliputi:

Kesehatan Mental: Remaja dengan masalah kesehatan mental, seperti depresi, lebih rentan terhadap pengaruh negatif dari interaksi dengan chatbot yang tidak memiliki batasan yang jelas.

Keterikatan Emosional: Hubungan emosional yang kuat dengan karakter fiksi dapat menyebabkan individu mengabaikan realitas dan memperburuk kondisi psikologis mereka.

Desensitisasi: Paparan berulang terhadap konten yang sugestif atau berbahaya dapat menurunkan sensitivitas individu terhadap bahaya, meningkatkan risiko perilaku berisiko seperti bunuh diri.

Kurangnya Pengawasan: Minimnya pengawasan dari orang tua atau wali dapat memperburuk situasi, memungkinkan remaja terpapar konten berbahaya tanpa bimbingan yang memadai.

3.3 Peran Pengawasan Orang Tua dan Pendidikan Teknologi Untuk Mencegah Dampak Negatif Penggunanya

Peran pengawasan orang tua terhadap anak sangat penting untuk mencegah dampak negatif teknologi pada psikis serta kondisi fisik anak. Beberapa langkah yang dapat dilakukan antara lain:

Menetapkan Batasan Waktu: Membatasi penggunaan teknologi, khususnya chatbot AI agar anak tidak terjerumus dalam penggunaan teknologi yang berlebihan atau interaksi yang tidak sehat. Alihkan anak untuk dapat melakukan kegiatan positif lain seperti olahraga, serta belajar.

Memantau Aktivitas Digital Anak: Awasi aplikasi dan situs yang digunakan anak-anak, pastikan bahwa anak tidak terpapar konten yang tidak sesuai usia dan membahayakan kondisi psikis.

Menjaga Komunikasi Terbuka: Bangun komunikasi yang baik dengan anak, sehingga anak merasa aman untuk bercerita mengenai pengalaman mereka di dunia digital. Sehingga perilaku serta pemikiran mereka yang negatif dapat segera dideteksi dan ditangani.

3.4 Peran Pendidikan Teknologi Dalam Mencegah Dampak Negatif

           Peran Pendidikan teknologi untuk mencegah dampak negatif dari penggunaan AI juga sangat dibutuhkan, yakni dengan:

Literasi Digital: Anak-anak perlu diajarkan tentang literasi digital yang baik agar memiliki kemampuan untuk menggunakan teknologi dengan bijak dan aman. Selain itu, literasi digital juga diperlukan anak agar dapat mengakses berbagai situs seperti website, E-Book serta internet untuk kebutuhan bermanfaat.

Pengenalan Risiko dan Dampak Negatif Teknologi: Anak perlu diperkenalkan dengan resiko penggunaan teknologi seperti kecanduan media sosial, cyberbullying, penipuan online, serta chatbot AI agar lebih dapat berhati hati dalam menggunakan website, media sosial, serta internet.

Etika dan Tanggung Jawab Digital: Perlu ditanamkan nilai menghormati privasi pada diri anak, larangan untuk memberikan informasi pribadi secara sembarangan, dan mematuhi etika dunia maya. Selain itu anak juga harus berhati-hati dalam mengirimkan pesan di media sosial. Anak-anak juga harus mengerti bahwa menjaga privasi diri serta privasi orang lain adalah hal yang penting. 

5.5 Strategi agar Remaja Tidak Ketergantungan dengan Penggunaan Teknologi

Meningkatkan interaksi sosial dengan lingkungan sekitar dan dapat berkegiatan secara positif.

Kesadaran diri membatasi interaksi dengan chatbot AI untuk mengurangi dampak negatif penggunaan chatbot AI.

Pengembangan keterampilan emosional dengan meningkatkan teknik coping mechanisms agar dapat lebih siap menghadapi permasalahan sehari-hari.

5.6 Pasal yang Berhubungan dengan Kasus

 Pada kasus ini, chatbot AI tidak dapat dituntut dan disalahkan. Namun, tuntutan dapat dikenakan kepada perusahaan pembuat chatbot AI tersebut. Kelalaian dalam pemrograman dapat dituntut dengan pasal yang ada di Indonesia, perusahaan dapat dituntut dengan pasal 344 KUHP 2023 yang berbunyi "Barang siapa merampas nyawa orang lain atas permintaan orang itu sendiri, yang diminta dengan sungguh-sungguh dan dengan menyatakan sebenarnya, dihukum penjara selama-lamanya dua belas tahun.". 

Conclusion

Berdasarkan penelitian yang telah kami lakukan maka dapat disimpulkan bahwa sebuah AI sangat dapat membantu kita dalam menjalani kehidupan apalagi dalam bidang kesehatan. Namun AI juga dapat melakukan kesalahan yang sangat fatal bagi penggunanya seperti kasus tersebut sehingga untuk saat ini yang dapat kita lakukan terhadap AI yaitu menggunakannya secara bijak dan dengan pengawasan dari orang tua atau orang terdekat.