Asal mula Al Azhar adalah berupa mesjid yang dibangun oleh Jauhar Al Shaqali, seorang panglima perang pada Dinasti Fathimiyah, pada tanggal 24 Jumadil Ula 359 H (970 M). Seiring dengan perkembangan zaman, masjid Al Azhar merupakan tempat dakwah yang semakin hari semakin besar, sehingga menjadi sebuah lembaga pendidikan. Kondisi itu berlangsung lama sampai pertengahan abad 21. Jadi selama itu pula Al Azhar yang berupa masjid mempunyai fungsi ganda; sebagai masjid dan pusat kegiatan Islam, dan sebagai lembaga pendidikan. Kedua faktor inilah yang membuat Al Azhar selalu melakukan pembaruan yang terus berkesinambungan.
Pembaruan yang sangat terlihat sekali telah dilakukan oleh Syekh Muhammad Abduh ketika masih memegang kendali Al Azhar. Pembaruan tersebut dimaksudkan untuk menegaskan fungsi Al Azhar sebagai pusat pemurnian pemahaman Ajaran Islam dan diharapkan dapat mencetak kader-kader da’i yang tangguh. Dibentuklah beberapa jenjang pendidikan, sejak tingkat dasar sampai jenjang akademi. Juga membuka fakultas-fakultas umum yang semuanya dengan sistim terpisah antara putra dan putri.
Semakin hari, Al Azhar berkembang semakin besar. Sehingga tidak hanya berpusat di Ibukota, Kairo, tapi hampir menyeluruh di setiap propinsi di Mesir dibuka cabang Al Azhar.
Kebesaran tersebut lebih terasa lagi, demi mengetahui bahwa Al Azhar adalah lembaga sosial yang teramat sosial. Al Azhar, sepeserpun tidak menarik uang kuliah dari mahasiswa. Bahkan ia tiap tahunnya membuka pendaftaran beasiswa. Juga terus mengadakan pembangunan,dan membuka cabang-cabang baru di daerah-daerah.
