"Ngebangun manusia iku ore cukup karo jampe lan banyu kendi, tapi kudu karo elmu. Lamun sire mengko gede nduwe elmu lan bergune karo wong, mending sire mati waktu cilik supaye sire ore ngentekaken beras" —Brigjen KH. Syam'un
Dalam catatan PB Al-Khairiyah, Kyai Syam'un lahir pada 5 April 1894 atau 29 Ramadan 1311 H di Kampung Beji, Bojonegara, Kabupaten Serang. Ayahnya bernama Alwiyan bin H. Ahmad bin Rafei berasal dari Cinangka, Kabupaten Serang. Sementara Ibunya, Siti Hadjar, merupakan anak pertama dari Ki Wasyid (w. 1888), tokoh ulama yang menjadi pimpinan perang dalam peristiwa Geger Cilegon.
Melalui jalur Ki Wasyid nasabnya menyambung pada Ki Mas Jong—tangan kanan Prabu Pucuk Umun, Raja Pajajaran—yang setelah kekalahan Kerajaan Sunda oleh Kesultanan Banten masuk Islam dan diangkat menjadi Panglima Perang Kesultanan Banten pada masa Sultan Maulana Hasanuddin (1552-1570). Faktor keturunan tersebut membuat keluarga Syam'un mendapat predikat terhormat di kalangan masyarakat.
Namun, keadaan ini di satu sisi justru membuat kehidupan diri dan keluarganya tidak aman. Setelah peristiwa Geger Cilegon tahun 1888, pemerintah Belanda tak berhenti berusaha menghabisi keturunan Ki Wasyid, termasuk Syam'un kecil. Tetapi upaya Belanda selalu gagal, karena keluarga Ki Wasyid selalu lolos dari kejaran Belanda. Belanda sering dikelabui dengan mengganti Yasin (adik Siti Hadjar) dengan orang lain. Karena berkali-kali gagal menemukan keluarga Ki Wasyid, sebagai gantinya Belanda akhirnya membumihanguskan Kampung Beji tempat tinggal mereka.
Mengingat di Kampung Beji sudah tidak aman, Siti Hadjar kemudian membawa Syam'un yang masih bayi pindah ke Citangkil. Di Kampung Citangkil Syam'un kecil dididik, dibesarkan, dan mendidik diri serta melatih kedewasaan di bawah asuhan ibunya. Syam'un hidup bagaikan anak yatim karena ayahnya tidak diketahui keberadaannya, masih hidup atau sudah wafat.
Meski demikian ia tetap tabah dan sabar menghadapi pahit getir kehidupan. Syam'un selalu patuh mengikuti bimbingan dan asuhan ibunya yang hidup dalam suasana amat kekurangan. Sebab meski keturunan keluarga terpandang, orang tuanya tergolong tidak kaya. Terlebih saat itu selalu mendapat pengawasan dan tekanan penjajah.
Kehidupan pada masa kanak-kanak tak jauh berbeda dengan anak-anak lainnya. Ia dikenal sebagai anak yang patuh, periang, dan rajin belajar. Hidup sederhana, memiliki karakter pemberani dengan watak pribadi yang kuat, otak cerdas, serta berkeinginan keras menjadi pemimpin agama. Ilmu Alquran dan bahasa Arab menjadi minat dan perhatiannya.
Musafir Ilmu
Sumber: Brigjend KH. Syam'un: Tokoh 3 Dimensi
Keseriusan dalam menuntut ilmu ia wujudkan. Setelah diasuh, dididik, dan dibimbing ibunya, Syam'un kemudian memulai menjadi musafir ilmu. Pertama kali ia belajar agama kepada kakeknya H. Ahmad bin Rafei di Kampung Kosambi, Desa Karang Suraga, Kecamatan Cinangka. Selanjutnya belajar di pesantren pamannya, Ki Yasin Beji di Kampung Solor, Desa Margagiri, Kecamatan Bojonegara.