Pondok Pesantren Al  Hadi didirikan oleh bapak KH. Muhammad Hadi membentuk sebuah lembaga pada 16 Rabiul Awal 1288 atau pada tahun 1836 M. Pada masa berproses menuntut ilmu beliau menuntut ilmu di Mekah bersama guru beliau bernama Syaikh Sulaiman Moh Zuhdi. Dengan perkembangan serta berjalannya waktu pondok pesantren dibagi menjadi dua bagian yaitu pesantren toriqoh yang dipimpin oleh KH. Muhammad Zahid, dan pesantren kitab salafiyah dipimpin oleh KH. Muhammad Syiraj memiliki pesantren dengan bernama Pesantren Falahiyah dikarenakan mayoritas santri berasal dari keluarga petani.
