Al-Ghazali lahir di kota Tabaran di distrik Tus yang sekarang terletak di Iran modern, menurut catatan biografi tokoh dunia yang dilansir oleh Famous Philosophers, ayah Al-Ghazali meninggal di tengah kemiskinan yang parah. Sang ayah menitipkan Al-Ghazali dan adik laki lakinya, Ahmad, dalam perawatan sufi.
Al-Ghazali mulai menerima pengajaran ilmu hokum islam dari seorang guru lokal bernama Ahmad al-Radhakani. Haus akan ilmu, Al-Ghazali kemudian pergi berguru dengan Al-Juwayni di Nishapur tentang ilmu hokum dan teologi. Ia berguru hingga ajal menjemput Al-Juwayni. Setelah itu,Al-Ghazali kemudian bergabung menjadi agama di istana Nizam al-Mulk, yang saat itu menjadi wazir atau setara perdana menteri dari sultan Suljuk di Isfahan pada 1085.
Atas dedikasi pada ilmu agama dan penerapan nya, Al-Ghazali dianugerahi gelar”Kecemerlangan Agama” dan”Mulia di antara Para Pemimpin Agama”. Nizam al-Mulk mempromosikan Al- Ghazali menjadi guru besar di madrasah Nizamiyya di Baghdad. Namun 4 tahun kemudian Al Ghazali mengalami krisis Spiritual. Guru besar ini lalu meninggalkan kariernya di Baghdad untuk pergi ziarah ke Mekkah.
Dia menghabiskan beberaoa waktu di Damaskus dan Yerusalem, dalan perjalanan nya mengunjungi Mekkah dan Madinah pada 1096. Pada 1906, Al Ghazali kembali ke Tus menghabiskan beberapa tahun berikutnya dalam pengasingan, yang tidak mengikuti ajaran yang di dukung negara.
Namun, Al Ghazali tetap menerbitkan karya, menerima tamu, serta mengajar di Madrasah swasta dan biara sufi yang dibangun nya. Wazir Agung Ahmad Sanjar,Fahr sl Mulk mendesak Al Ghazali untuk kembali ke Nizamiyya di Nishapur. Awalnya, ia bersikeras menolak, tetapi akhirnya diterima nya pada 1106.