Asal mula Al Azhar adalah berupa mesjid yang dibangun oleh Jauhar Al Shaqali, seorang panglima perang pada Dinasti Fathimiyah, pada tanggal 24 Jumadil Ula 359 H (970 M). Seiring dengan perkembangan zaman, masjid Al Azhar merupakan tempat dakwah yang semakin hari semakin besar, sehingga menjadi sebuah lembaga pendidikan. Kondisi itu berlangsung lama sampai pertengahan abad 21. Jadi selama itu pula Al Azhar yang berupa masjid mempunyai fungsi ganda; sebagai masjid dan pusat kegiatan Islam, dan sebagai lembaga pendidikan. Kedua faktor inilah yang membuat Al Azhar selalu melakukan pembaruan yang terus berkesinambungan.