Sebelum beliau bertemu dengan calon istrinya, beliau pernah bermimpi di tarik belalai gajah yang di tunggangi oleh KH. Hasbulloh, yang di lain cerita bahwa Bapak Muhaimin (Kakak dari Ibu Muhsonah yang juga putra dari KH. Hasbulloh yang bertempat tinggal di Kutoanyar, Tulungagung, Jawa Timur) adalah kenalan beliau sewaktu mondok di Kyai Shodiq, Jombang, Jawa Timur yang adalah adik Ipar beliau. Karena perkenalan antara Bapak Muhaimin dan beliau inilah maka menjadi penyambung antara kedua pihak. Bapak Muhaimin memberitahukan prihal beliau kepada ayahnya KH. Hasbulloh yang akhirnya terjadi proses panjang yang berkelanjutan hingga ke pernikahan.
Menurut versi cerita lain, di ceritakan terlebih dahulu Kyai Shodiq sebagai adik Ipar beliau yang telah lama masuk Thoriqoh Kauman, Tulungagung di bawah asuhan Kyai Mustaqim telah menjadi kebiasaannya selain bertemu Kyai Mustaqim Kyai Shodiq juga menemui KH. Hasbulloh Kuto Anyar Tulungagung yang juga aktif di Kauman Tulungagung. Dari perkenalan inilah yang kemudian berlanjut kepada perjodohan antara beliau dengan putri KH. Hasbulloh, yaitu Muhshonah. Kyai Shodiq membawa photo Ibu Muhsonah untuk ditunjukan kepada beliau yang kemudian beliau cocok dengan orang yang ada di photo itu hingga akhirnya beliau nikahi. Beliau menikah dengan Ibu Nyai Hj. Muhshonah Ch. Sekitar tahun 1960-an di usia beliau yang 35 tahun, sedangkan usia Ibu adalah 16 tahun. Memang mungkin usia beliau relatif tua dan usia istri beliau relatif muda apabila di bandingkan pada zaman sekarang ini, tetapi hal ini beralasan. Persiapkan segala sesuatunya sampai cukup matang dalam segala hal, dan untuk apa menunda sesuatu kebaikan apabila telah cukup matang dalam segala hal.
Pernikahan beliau dengan Ibu Nyai Hj. Muhshonah Ch. di karuniai 8 orang putra (4 putra dan 4 Putri), yaitu : Mahsuroh, Ma'nunah, Mardiah, Maftuh al-Hikam menikah dengan Imansiaturrosyidah (cucu dari Kyai Mustaqim atau keponakan dari Kyai Jalil Kauman, Tulung Agung), Hani' Masykuri, Ali Mansur (wafat ketika masih kecil dikarenakan sakit), Layyinatuddiyanah, dan Fatih Fu'ad.
Setelah beliau (KH. Mahfudz Syafi'i) menikah dengan putri KH. Hasbulloh yang memang aktif di Kauman Tulungagung, beliau kemudian masuk Thoriqoh dan di bai'at langsung oleh Kyai mustaqim. Setelah di bai'at beliau di perintah KH. Hasbulloh agar bertirakat suluk (berpuasa) di Kauman selama 40 hari, tetapi dalam waktu 10 hari saja beliau sudah di panggil oleh Kyai Mustaqim dan di perintah untuk pulang.
Pasca pernikahan, beliau tinggal di Genuk Watu, Jombang bersama istri dan putranya yang masih kecil. Beliau mengajar dan ikut serta bersama masyarakat mendirikan Madrasah Ibtida'iyyah dan Tsanawiyyah di desa itu. Beliau pada saat itu bukanlah orang yang berlimpah kemewahan, harta berharga satu-satunya adalah kitab-kitabnya. Jumlah kitab yang beliau miliki sangat banyak, karena itulah tak heran kalau beliau pernah kemalingan dan kehilangan banyak kitab. Mungkin malingnya juga bingung, apa yang akan dia ambil di dalam rumah itu, karena harta paling berharganya adalah hanya kitab-kitab milik beliau. Semua kitab beliau apabila di ukur, mungkin sebanyak tiga lemari besar. Sayang, kitabnya banyak yang hilang karena dicuri, di pinjam, rusak karena berumur tua, tidak terurus dan lain sebagainya. Kitabnya yang tersisa kini hanyalah tinggal satu lemari besar yang masih tersimpan hingga sekarang.
Karena memang kehidupan beliau yang tidak berlimpah harta, pernah beliau hanya memiliki satu kain sarung yang di gunakan bergantian dengan istrinya. Bahkan, mereka tidak pernah meminum air manis yang di beri gula, seandainya pernah pun, itu hanya satu atau dua kali saja, yakni sangat jarang. Beliau setiap pagi buta sekitar jam 3 Â selalu berangkat ke sawah dan pulang kembali siang hari.
Kehidupan beliau setelah menikah ini memang terbilang sulit dan ekstrim bila di pandang dari sisi negatif. Tapi beliau pernah berkata, "istri saya adalah orang yang solihah, karena dalam kehidupan yang seperti ini pun dia tidak pernah mengeluh apalagi menyalahkan dan menuntut". Kehidupan mereka dalam keadaan seperti ini seakan sama sekali tidak mempengaruhi perjalanan bahtera rumah tangga mereka berdua, bahkan harmonis dan tetap berjalan seperti biasanya.
VI. MENDIRIKAN PONDOK PESANTREN AL-ISTIGHOTSAH
Pada hari Rabu pagi, Bulan Maret 1994 M. atau Bulan Dzul-Hijjah 1414 H. bersama istri dan semua putra putrinya, beliau telah mendirikan sebuah lembaga pendidikan Pondok Pesantren Salaf pada tahun 1992 M. yang bernama AL-ISTIGHOTSAH yang di gagas oleh beliau walaupun hanya baru di atas proposal yang rencananya sekaligus agar dapat menjadi wadah seluruh jama'ahnya yang  berhaluan Ahlus-Sunnah Wal-Jama'ah. Pondok Pesantren Al-Istighotsah, Gardu Sawah, Cikarang, Bekasi yang menjadi tempat pertama berdirinya lembaga pendidikan aktif  yang beliau bangun sendiri, kini kegiatan aktifnya telah berpindah di daerah selatan Bekasi, lebih tepatnya di Kp. Cinyosog, Ds. Burangkeng, Kec. Setu, Kab. Bekasi. Sampai saat ini ada tiga tempat peninggalan jariyah perjuangan beliau dengan nama lembaga yang sama dan pengelola yang telah beliau tunjuk sendiri dari putra putrinya akan tetapi berbeda daerah, yaitu :
- Pondok Pesantren AL-ISTIGHOTSAH Sukatani; di asuh oleh Ibu Nyai Mahsuroh & Bapak Kyai Maftuh Al-Hikam.
- Pondok Pesantren AL-ISTIGHOTSAH Bulak Kapal; di asuh oleh Ibu Nyai Mardiyah & Bapak Kyai Hani' Masykuri.
- Pondok Pesantren AL-ISTIGHOTSAH Setu; di asuh oleh Ibu Nyai Layyinatuddiyanah & Gus Fatih Fu'ad.
VII. VISI-MISI
Puncak manusia diciptakan adalah untuk mengetahui dengan yang menciptakanya, begitulah kurang lebih isi kandungan dari hikmah setiap perkataan dan tindakan yang selalu beliau perlihatkan. Sehingga sering kali beliau memberitahu, mengajak, mengajarkan dengan mengatakan, menganjurkan, mengingatkan, menegur dan lain sebagainya berulang-ulang akan berdzikir, yakni mengungkapkan Alloh dimulai dengan menyebut Diri-Nya, mengingat Diri-Nya, merasakan Diri-Nya hingga akhirnya mengetahui Dirinya bahwa hanya Diri-Nya-lah yang memiliki sifat ada (Wujud) yang kemudian menjadi lebur hilanglah yang Si-yang mengetahuinya dan menyatakan bahwa yang ada hanya Dia (Pencipta).
Karena itulah beliau mengatakan, hanya dzikirlah yang menjadi alat sekaligus proses tercepat untuk sampai (mengetahui) kepada yang sejati (Alloh). Karena hal inilah, beliau selalu menghubungkan dan mengembalikan segala sesuatu kepada Alloh yang mana terlebih nampak ada pada tiap ucapannya, sampai-sampai beliau dikatakan sebagai orang yang "ngajinya Alloh melulu".
