Penggunaan AI sangat rentan terkait perlindungan data siswa, hal ini menjadi salah satu tantangan terbesar. Karena banyak resiko yang ada ketika AI digunakan untuk mengumpulkan data peserta didik seperti informasi pribadi, prestasi akademik, pola belajar dll. Hal ini beresiko terjadi kebocoran data, pelanggaran privasi dan penyalahgunaan informasi.
3. Ketidakadilan dalam akses
   Penerapan AI dalam pendidikan dalam pendidikan dapat memperlebar kesejangan antara sekolah dan siswa yang memiliki akses terhadap sumber daya yang memadai dan yang tidak seperti contohnya didaerah terpencil dan kurang mampu ya mungkin belum sepenuhnya memfasilitasi karena akses internet yang terbatas, insfrastruktur yang kurang memadai, sedangkan sekolah sekolah yang sudah maju atau di perkotaan dapat menawarkan lebih banyak akses penggunaan teknologi AI untuk meningkatkan prestasi pendidikan siswanya. Hal ini menjadi kesenjangan pendidikan antara pedesaan dan perkotaan.
Hadirnya teknologi AI atau kecerdasan buatan ini adalah sebuah terobosan teknologi pendidikan untuk memudahkan pembelajaran. Generasi AI akan menghadapi tantangan dengan dunia yang semakin terhubung dengan teknologi . Salah satu tantangannya adalah ketergantungan AI dalam proses pembelajaran . Hal ini dapat dikendalikan dengan meningkatkan kesadaran akan potensi dampak negatif AI dan bijak dalam menggunakannya. bukan hanya tentang pengembangan teknologi, kita juga perlu memperhatikan pengembangan ketrampilan manusia supaya tidak dapat digantikan oleh AI serta tetap memprioritaskan kecerdasan manusia bukan malah untuk menggantikan peran manusia. Dan sebagai seorang guru seharusnya memiliki kompetensi yang lebih di bidang teknologi agar bisa relevan dengan perkembangan zaman sekarang ini.
Â
Penulis : Eullis Sholehah (Mahasiswa PTKIN di Yogyakarta)
Baca konten-konten menarik Kompasiana langsung dari smartphone kamu. Follow channel WhatsApp Kompasiana sekarang di sini: https://whatsapp.com/channel/0029VaYjYaL4Spk7WflFYJ2H