Pada tahun 1898-1900, Syam'un menimba ilmu di pesantren KH. Sa'i di Kampung Delingseng, Desa Kebonsari, Kecamatan Pulomerak. Tahun 1901-1904 memperdalam ilmu agama di pesantren KH. Djasim di Kampung Kamasan, Kecamatan Cinangka. Setelah itu, Syam'un yang haus ilmu berguru pada Buya Thoyib di Kampung Pangoreng, Bojonegara. Â
Pada tahun 1905, di usia sekitar 12 tahun, Syam'un muda melanjutkan studi ke Mekkah mendalami ilmu keislaman, berguru pada beberapa ulama termasuk Syaikh Nawawi Al-Bantani. Bermodal dasar bahasa Arab yang diperoleh di beberapa pesantren di Indonesia ia tidak banyak mengalami kesulitan dalam berkomunikasi, bahkan beberapa bulan setelahnya sudah lancar berbahasa Arab.Â
Menuntut ilmu di Mekkah merupakan keinginan yang sangat diidamkan Syam'un dan para santri Indonesia waktu itu. Karena dimotivasi banyak hal, di antaranya Mekkah tempat lahir agama Islam dan bertemunya kaum muslimin saat musim haji. Sehingga kesempatan itu membuat Syam'un belajar dengan semangat yang tinggi.Â
Selepas belajar di Mekkah, pada tahun 1912 ia melanjutkan studi ke Universitas Al-Azhar Kairo hingga lulus tahun 1915. Kemudian dengan berbekal pengetahuan yang mumpuni, ia sempat kembali ke Mekkah untuk menjadi guru di Masjidil Haram. Namun tak lama, ia kemudian pulang ke tanah air yang masih berada dalam genggaman kolonial Belanda.Â
Kepulangannya sempat dihalangi Van Limburg Stirum (Gubernur Jendral Hindia Belanda) karena khawatir menjadi penggerak pemberontakan seperti kakeknya Ki Wasyid. Namun, setelah diupayakan susah payah oleh Kartawirana putra Ki Sarim, Syam'un dapat pulang ke kampungnya. Kartawirana—yang kemudian menjadi KH. Abdul Aziz sampai diminta menjaminkan lehernya oleh Belanda jika Syam'un dan pamannya Yasin melakukan pemberontakan.Â
Keluarga
Setiba di Banten tahun 1915, Kyai Syam'un tinggal di Kampung Citangkil bersama ibunya. Kemudian menikah dengan Nafisah putri H. Abdul Karim dari Kampung Pangoreng, Bojonegara, dan tidak memiliki keturunan. Pernikahan ini tak berlangsung lama karena Nyi Nafisah wafat. Tahun 1919 ia menikahi Nyi Hasunah binti Sama'un dari Caringin, Labuan, Pandeglang yang juga tidak dikaruniai anak—Nyi Hasunah inilah yang hidup mendampingi Kyai Syam'un di pendopo Bupati Serang ketika menjadi Bupati Serang tahun 1945-1949.Â
Tahun 1920 Kyai Syam'un menikah lagi dengan Hj. Adawiyah binti Rasdam, dikaruniai anak yaitu Rachmatullah dan Ahmad Athaullah. Tahun 1936 menikahi Hj. Fauzah binti Abdul Fatah dikaruniai dua anak, Faridah dan Fathullah. Istrinya yang terakhir adalah Nyi Mahdiyah binti Yasin, menikah tahun 1940 dikaruniai dua anak yaitu Abdul Qasid dan Abdul Karim.Â
Meskipun Kyai Syam'un beristri lima, tapi tidak dinikahi dalam waktu bersamaan, karena Nyi Nafisah istri pertama wafat sebelum ia menikah dengan Nyi Hasunah, dan dengan istri keempat bercerai tahun 1945. Di Banten poligami merupakan tradisi yang umumnya dilakukan oleh para kyai, jawara, atau jaro (lurah). Meskipun secara ekonomi Kyai Syam'un bukan orang berada, tapi bagi masyarakat Cilegon atau Banten dinikahi oleh kyai atau keturunannya merupakan kebanggaan, karena selain dianggap "ngalap berkah" juga mendapat keturunan yang baik.Â
Mendirikan Al-Khairiyah