Selanjutnya adalah madrasah. Ada yang mengatakan bahwa yang pertama kali menjadikan madrasah sebagai pusat kajian Islam adalah Nizhamul Muluk, Perdana Mentri Salju, pada abad ke-5 H. Madrasah yang dibangunnya dinamai sesuai dengan namanya. Di Baghdad, Madrasah Nizhamiyah kemudian menjadi yang paling terkenal. Madrasah terdiri atas teras yang dikelilingi oleh kubah dan melekat dengan perpustakaan. Materi keislaman yang di pelajari di madrasah meliputi materi-materi pokok (ushuluddin) dan macam-macam subpokok, seperti sejarah sastra. Adapun metode pengajaran di madrasah-madrasah ini bervariasi di beberapa tempat. Misalnya, metode pengajaran madrasah di Kairo berbeda dengan yang berada Cordoba (Spanyol), Baghdad, dan Mesir. Dalam catatan Ibnu Khaldun dijelaskan bahwa madrasah-madrasah di Afrika, misalnya anak-anak diajari materi materi tentang Al-Qur'an dan Hadis.
Pada masa kepemimpinan Harun Ar-Rasyid (813-833), salah seorang kholifah Dinasti Abbasiyah, kebudayaan dan peradaban mengalami kemajuan pesat dalam segala bidang, terutama dalam bidang pendidikan, administrasi pemerintahan, ekonomi, dan politik. Kemajuan dalan bidang pendidikan dan ilmiah ditandai dengan pengadaptasian dan pewarisan ilmu-ilmu yang didapat dari Persia, Yunani, Mesir, Yahudi, Kristen, dan India kedalam Islam. Setelah dunia Islam mengalami masa keemasan dan kemajuan dalam bidang pendidikan dan kebudayaan, pada periode selanjutnya, dunia islam mengalami penurunan.
Menurutnya pendidikan dan peradaban Islam pada masa ini disebabkan sikap umat Islam terhadap pendidikan dan pemikiran semakin berkurang.Setelah mengalami kemunduran, umat Islam mengalami masa kehancuran. Masa ini terjadi antara abad ke-15 sampai dengan abad ke-19 M. Adapun penyebab kemunduran ini adalah tidak adanya pengembangan dalam bidang ilmu pengetahuan yang meliputi sains, teknologi, hukum, dan filsafat. Pada akhir periode ini, keadaan ekonomi, politik, dan militer umat Islam mulai mundur.
Pada permulaan abad ke-19 dari priode ini, umat Isalam mulai sadar atas kelemahan dan kemunduran kebudayaan dan peradabannya jika dibandingkan dengan dunia Barat yang sudah maju. Melalui pengaruh kebudayaan Barat modern, sistem sekolah dasar, menengah, sekolah kejurusan, sekolah teknik, dan sampai pada sistem universitas yang ada di dunia Arab dan dunia Islam diperbarui atau disesuaikan menurut pola Barat
