Hal ini dikarenakan AI dapat memperkuat bias kognitif yang sudah ada, sehingga akan ada situasi benturan antara nilai moral yang kita pegang dan yakini dengan pengambilan keputusan berbasis data (Wang, 2021).
Lebih lanjut, masalah keamanan dan privasi data juga dapat berdampak seumur hidup bagi para pemangku kepentingan (Wang, 2021). Oleh karena itu, para pemimpin di bidang pendidikan perlu mempertimbangkan dengan cermat dalam memanfaatkan potensi AI, serta mengembangkan langkah-langkah untuk meminimalisir risiko negatifnya (Wang, 2021).
Maka dalam hal ini etika memainkan peran penting dalam pengembangan dan penerapan kecerdasan buatan. Tanpa panduan etis yang jelas, AI berpotensi menimbulkan risiko serius, seperti diskriminasi algoritmik dan pelanggaran privasi.
Oleh karena itu, pengembangan AI harus selalu mempertimbangkan prinsip-prinsip etika untuk memastikan teknologi ini bermanfaat bagi semua orang. Terkait dengan perkembangan teknologi yang pesat, khususnya AI, beberapa ahli memprediksi adanya fenomena "singularitas teknologi".
Singularitas teknologi merupakan titik balik ketika kemajuan teknologi menjadi tak terkendali dan mengubah pondasi peradaban manusia secara radikal(Wardani et al., 2022). Prediksi mengenai singularitas teknologi pada tahun 2045 memberikan urgensi bagi dunia pendidikan untuk segera mempersiapkan generasi muda Indonesia dalam menghadapi perubahan yang signifikan dan transformatif.
Adanya term atau kondisi singularitas teknologi ini secara kompleks tidak dapat dihindari, seperti kemudahan akses bagi tiap orang. Salah satu contoh yaitu ketergantungan pemanfaatan teknologi akan cenderung mengurangi fungsi kerja otak dan bagi balita usia 1-3 tahun akan mengalami speech delay.
Tantangan Moralitas di Era Kecerdasan Buatan
Seperti pada bahasan sebelumnya pada sub judul, bahwa teknologi kecerdasan buatan berpotensi untuk disalahgunakan dan mengabaikan etika moral.Â
Sebagai contoh, penggunaan AI untuk pembelajaran adaptif dapat menyebabkan penyempitan akses peserta didik terhadap sumber belajar yang lebih luas(Ma & Jiang, 2023). Maka riset ini dapat dikatakan bahwa di samping manfaat yang ditawarkan, penggunaan AI dalam pendidikan juga perlu dikaji secara mendalam untuk memahami dampak yang mungkin timbul, terutama terkait dengan isu etika dan moralitas.
Selain aspek etika, moralitas juga menjadi tantangan besar di era kecerdasan buatan. AI memiliki kemampuan untuk mengambil keputusan yang dapat berdampak besar pada kehidupan manusia. Oleh karena itu, sangat penting untuk memastikan bahwa keputusan-keputusan tersebut didasarkan pada prinsip-prinsip moral yang benar. Hal ini mencakup penghormatan terhadap hak asasi manusia, keadilan, dan kejujuran.
Sebagai salah satu contoh, yaitu Negara Swedia yang sudah memberlakukan kembali buku teks. Hal ini dikhawatirkan akan berdampak pada kemampuan dasar peserta didik yaitu kemampuan menulis. Meskipun penerapan AI dalam pendidikan di Indonesia masih dalam tahap awal, potensi penyalahgunaan tetap perlu diwaspadai.
