Dahulunya didepan Al-Azhar berdiri Istana Zahra yang merupakan sentral pemerintahan Dinasti Bani Fathimiyyah, disana juga kediaman raja Jauhar Al-Siqli yang memimpin ketika Al-Azhar didirikan.
Universitas ini sudah sangat eksis sejak awal pendiriannya, dahulu khalifah Bani Fathimiyyah menggunakan Al-Azhar sebagai pusat pendidikan Da'i dan Ilmuwan yang bertujuan untuk menyebarkan Paham Syiah ke seluruh dunia.
Guru pertama yang mengajar disini bernama Syaikh Abdul Majid Al-Labbani sekaligus menjadi dekan fakultas Ushuluddin.
Al-Azhar ini merupakan universitas yang terletak didalam Masjid Al-Azhar. Keberadaan Universitas ini didalam masjid merupakan penegasanan bahwa sistem pendidikan Al-Azhar itu tidak bisa dipisahkan antara Masjid dan Universitas, keduanya saling melengkapi dalam proses pendidikan seorang muslim.
Walaupun begitu, universitas Al-Azhar kala itu masih belum menggunakan system Administrasi karena langsung dibawah pengawasan khalifah.
Dinasti bani Fathimiyyah tidak bertahan lama, kerajaan Syiah ini luluh lantak setelah diserang oleh Sholahuddin Al-Ayyubi dari Dinasti Ayyubiyah yang berpaham Ahlu Sunnah wal Jamaah (Sunni).
Ketika Sholahuddin memimpin, beliau membersihkan Mesir dari paham Syiah yang telah dianut oleh rakyat Mesir selama hampir 200 tahun lamanya. Uniknya, Sholahuddin tidak membubarkan Universitas Al-Azhar karena beliau menyadari betapa besar pengaruhnya kala itu terhadap Timur Tengah dan Rakyat Mesir.
Oleh karena itu, beliau memerintahkan untuk menutup Universitas Al-Azhar selama kurang lebih 98 tahun dengan maksud membersihkan Al-Azhar dari pengaruh Syiah dan bisa berpegang teguh dengan Ahlu Sunnah Wa-Jamaah.
Setelah ditutup selama hampir 100 tahun, mulai dari Dinasti Ayyubiyah hingga beralih ke masa Dinasti Mamalik. Ketika dibawah kekuasaan Mamalik inilah Universitas Al-Azhar dibuka kembali dan disambut  dengan meriah oleh masyarakat Mesir yang merindukan Universitas Kebanggaan mereka.
Semangat keilmuan masyarakat Mesir kembali menggeliat dengan keberadaan Al-Azhar, Ulama-ulama Sunni dari seluruh dunia banyak berdatangan ke Mesir dalam rangka mengajar sekaligus menimba Ilmu dari Ulama besar lainnya yang berada di Negeri ini.
Al-Azhar memang memiliki daya tarik tersendiri, sehingga menjadi magnet bagi seluruh penuntut ilmu di dunia untuk datang Universitas ini, baik untuk belajar ataupun mengajar.