Maka atas bantuan KH. Moh Ilyas  didirikanlah bangunan sebuah mushola dan tiga banguna madrasah sebagai Pusat kegiatan Jam'iyat I'anat Al-Muta'allimin. Dan sejak tanggal 6 Mei 1916, H. Abdul Halim memusatkan aktifitas pembelajarannya ditempat tersebut.
Seiring berkembangnya Jam'iyat I'anat Al-Muta'allimin,  H. Abdul Halim memandang perlu untuk mendapatkan pengakuan secara hukum dari pemerintahan Hindia Belanda, untuk memuluskan keinginan tersebut maka pada pertengan tahun 1917 nama Jam'iyat I'anat Al-Muta'allimin dirubah menjadi Persjarikatan Oelama (PO). Perubahan nama tersebut mendapat dukungan penuh dari HOS Tjokroaminoto, dan akhirnya ikut  membantu untuk mendapatkan  pengakuan hukum dari pemerintahan Hidia Belanda.
Pada tanggal 21 Desember 1917, Pemerintahan Hidia Belanda melalui Gubernur Jenderal J. P. Graaf van Limburg Stirum mengesahkan dan mengakui keberadaan organisasi Persjarikatan Oelama (PO) dengan surat no 43.
Kiprah KH. Abdul Halim dalam Perjuangan di tingkat Nasional.
Selain aktif sebagai pimpinan Persjarikatan Oelama (PO) yang  dibentuknya, beliau pun aktif di Serikat Islam ( SI), yang dipimpin oleh HOS Tjokroaminoto. Bahkan H. Abdul Halim ditunjuk menjadi pimpinan SI Afdeling Majalengka. Semasa aktif di SI, H. Abdul Halim pernah ditangkap oleh pihak Belanda atas tuduhan terlibat dalam aksi pemogokan di daerah Jatiwangi. Namun setelah di intrograsi beliau  kembali dibebaskan.
Pada 1928, ia diangkat menjadi  pengurus Majelis Ulama yang didirikan Sarekat Islam bersama K.H. M. Anwaruddin dari Rembang dan K.H. Abdullah Siradj dari Yogyakarta. Ia juga menjadi anggota pengurus MIAI (Majlis Islam A'la Indonesia) yang didirikan pada 1937 di Surabaya. Setelah MIAI berganti menjadi Masyumi (Majelis Syuro Muslimin Indonesia) pada 1943, beliau menjadi salah seorang pengurusnya.
Dalam pengawasan yang sangat ketat dari pihak Belanda, paska penangkapan, tidak henti untuk terus mengobarkan semangat perjuangan. Di CSI ( central Serikat Islam ) hasil penggabungan  seluruh cabang SI, H. Abdul Halim  diangkat sebagai Commisaris Bestuur CSI Hindia Timur untuk wilayah Jawa Barat.Â
Namun dengan posisi tersebut, aktifis H. Abdul Halim tetap lebih terkonsentrasi di Organisasi yang  dipimpinnya yaitu PO. Dengan  perkembangan yang begitu pesat,  H. Abdul Halim mengusulkan kepada pemerintah Hindia Belanda, melalui Gubernur Jenderal D. Fock, supaya wilayah kerja Persjarikatan Oelama di perluas sampai ke seluruh pulau Jawa dan Madura.Â
Dan pada tanggal 19 Januari 1924, permohonan tersebut dikabulkan pemerintahan Hindia Belanda. Permohonan dikabulkan karena Persjarikatan Oelama merupakan  organisasi pendidikan bukan organisasi politik. Yang pada masa itu organisasi politik sedang dalam pengawasan yang sangat ketat dari pihak penjajah Belanda.
Sejak itu aktifitas Persjarikatan Oelama menjadi semakin luas, hingga keseluruh pulau Jawa dan Madura, dan pada tahun 1931 Persjarikatan Oelama telah mendirikan cabang salahsatunya di Tegal, Jawa Tengah.Â
Pada tahun 1937 H. Abdul Halim beserta R. Moh. Kelan kembali mengajukan perluasan aktifitas Persjarikatan Oelama yang meliputi seluruh wilayah Indonesia. Permohonan tersebut di kabulkan dengan  ditandatanganinya Rechtspersoon No. 43 Tanggal 18 Agustus 1937 oleh J. M. Kiverson se-bagai Algemeene Secretaris. Maka dengan demikian aktifitas Persjarikatan Oelama semakin luas, salahsatunya dengan mendirikan cabang di Sumatera Selatan.
