Kemajuan teknologi kecerdasan buatan (Artificial Intelligence/AI) telah membawa perubahan besar dalam berbagai sektor, termasuk bidang kesehatan. Salah satu penerapan AI yang menarik perhatian adalah penggunaannya dalam diagnostik medis. Dengan kemampuan analisis data yang cepat dan akurat, AI dianggap sebagai solusi masa depan untuk meningkatkan efisiensi pelayanan kesehatan. Namun, di balik potensi tersebut, penerapan AI juga memunculkan berbagai tantangan, khususnya terkait privasi data, akurasi hasil diagnostik, dan bias algoritma. Salah satu kasus yang menjadi sorotan adalah proyek kerja sama antara National Health Service (NHS) Inggris dengan DeepMind, anak perusahaan Google Health. Proyek ini bertujuan untuk mendeteksi kanker payudara melalui analisis mamografi menggunakan teknologi AI. Meski awalnya menjanjikan, proyek ini kemudian diwarnai kontroversi yang mengungkap berbagai persoalan mendasar dalam penggunaan teknologi canggih ini.
Pada 2021, DeepMind meluncurkan sistem AI yang dirancang untuk menganalisis mamografi guna membantu deteksi dini kanker payudara. Penelitian awal yang dipublikasikan dalam jurnal Nature menunjukkan hasil yang sangat menggembirakan. AI ini terbukti mampu mengurangi tingkat kesalahan diagnosis, baik false positives (kesalahan diagnosis yang menyatakan adanya kanker padahal tidak ada) maupun false negatives (kesalahan diagnosis yang menyatakan tidak adanya kanker padahal sebenarnya ada). Kemampuan ini menjadi terobosan besar dalam dunia medis. Dengan mempercepat proses diagnosis dan meningkatkan akurasinya, teknologi AI membuka peluang baru bagi pasien untuk mendapatkan pengobatan lebih dini, yang pada gilirannya dapat meningkatkan tingkat kelangsungan hidup.
Sayangnya, keberhasilan ini tidak berlangsung tanpa masalah. Investigasi yang dilakukan oleh Information Commissioner's Office (ICO) di Inggris mengungkapkan bahwa data medis pasien yang digunakan untuk melatih sistem AI dikumpulkan tanpa persetujuan eksplisit dari pasien. Ribuan data mamografi diambil dari berbagai rumah sakit tanpa memastikan bahwa pasien mengetahui atau menyetujui penggunaan data mereka. Meski data yang digunakan telah dihapus identitasnya, risiko re-identifikasi tetap ada. Hal ini melanggar General Data Protection Regulation (GDPR) di Inggris, yang merupakan regulasi ketat tentang perlindungan data pribadi. Akibat pelanggaran ini, NHS dan DeepMind menghadapi gugatan hukum dari kelompok advokasi privasi. Kasus ini menjadi pengingat keras bahwa perlindungan data pasien harus menjadi prioritas dalam penggunaan teknologi AI.
Selain isu privasi, kasus ini juga mengungkap kelemahan lain dari teknologi AI: bias dalam algoritma. Penelitian lebih lanjut menunjukkan bahwa sistem AI kurang efektif dalam mendeteksi kanker pada pasien dari kelompok etnis tertentu, seperti wanita kulit hitam dan Asia. Hal ini disebabkan oleh dominasi data pelatihan dari pasien kulit putih, sehingga algoritma AI tidak mampu menangani variasi biologis yang dimiliki oleh kelompok etnis lain. Akibatnya, pasien dari kelompok minoritas lebih sering menerima hasil diagnostik yang salah. Ketidakadilan ini tidak hanya menunda pengobatan tetapi juga memperburuk kondisi kesehatan pasien. Situasi ini menyoroti pentingnya memastikan bahwa dataset yang digunakan untuk melatih AI mencerminkan keragaman populasi pengguna.
Isu lain yang mencuat dalam kasus DeepMind adalah kurangnya transparansi dalam cara kerja sistem AI. Dokter yang menggunakan hasil analisis AI mengeluhkan bahwa mereka tidak dapat memahami bagaimana algoritma menghasilkan diagnosis. Fenomena ini dikenal sebagai "kotak hitam" (black box), di mana proses pengambilan keputusan oleh AI terlalu kompleks untuk dijelaskan secara langsung. Ketidakjelasan ini membuat dokter ragu untuk sepenuhnya mempercayai hasil yang diberikan oleh AI, terutama jika hasil tersebut bertentangan dengan evaluasi klinis mereka. Kondisi ini menunjukkan bahwa teknologi AI harus dirancang sedemikian rupa sehingga pengambilan keputusan dapat dijelaskan dan diverifikasi oleh tenaga medis.
Kasus DeepMind memberikan pelajaran berharga bagi negara-negara lain, termasuk Indonesia, yang mulai mengadopsi teknologi AI dalam sektor kesehatan. Regulasi yang kuat, seperti Undang-Undang No. 27 Tahun 2022 tentang Perlindungan Data Pribadi, harus diimplementasikan secara tegas untuk memastikan bahwa data pasien dilindungi dengan baik. Selain itu, pengembang teknologi harus memastikan bahwa algoritma AI dilatih dengan dataset yang beragam untuk menghindari bias. Transparansi juga menjadi aspek penting yang harus diperhatikan agar hasil diagnosis AI dapat dipercaya dan dipahami oleh tenaga medis.
Agar AI dapat memberikan manfaat optimal tanpa melanggar prinsip etika, sejumlah langkah perlu diambil:
1.Penguatan Regulasi: Pemerintah harus memperkuat regulasi terkait penggunaan AI di sektor kesehatan, termasuk perlindungan data pasien dan standar teknis AI.
2.Edukasi bagi Tenaga Medis: Dokter dan tenaga kesehatan perlu dilatih untuk memahami cara kerja AI serta cara menggunakannya secara etis dan efektif.
3.Pengembangan Teknologi yang Transparan: Pengembang teknologi harus memastikan bahwa sistem AI mereka transparan, aman, dan bebas bias.
4.Kolaborasi Multidisiplin: Diperlukan kerja sama antara ahli teknologi, tenaga medis, pembuat kebijakan, dan ahli etika untuk menciptakan ekosistem teknologi kesehatan yang bertanggung jawab.
