Mbah Kyai Ali Ma’shum rahimahullah terlahir dengan kecerdasan istimewa. Pada usia remaja, beliau sudah menjadi amat ahli dalam bahasa dan sastra Arab. Kefashihan beliau sulit dicari tandingannya.
Pada usia 18 tahun, sewaktu mondok di Termas, Pacitan, dibawah asuhan Kyai Dimyathi rahimahullah, Kyai Ali diberi hak untuk mengajar di Masjid pondok. Suatu previles yang tidak didapatkan bahkan oleh santri-santri yang jauh lebih senior. Bukan karena Kyai Ali putera seorang kyai besar (Mbah Kyai Ma’shum, Lasem). Dari segi nasab, Kyai Ali masih “kalah bobot” dibanding, misalnya, Kyai Abdul Hamid (Pasuruan) yang pada waktu itu juga mondok bareng di Termas. Previles itu diberikan sebagai pengakuan atas ke’aliman Kyai Ali. Di kemudian hari, Kyai Ali Ma’shum pun diakui sebagai kyai ahli Ilmu Tafsir paling otoritatif pada masanya.
Tidak heran jika, sesudah trio pendiri Nahdlatul Ulama (Hadlratusy Syaikh Kyai Hasyim Asy’ari, Kyai Abdul Wahab Hasbullah dan Kyai Bisri Syansuri) “habis” dengan wafatnya Kyai Bisri Syansuri, semua kyai yang hadir dalam Kombes NU 1982 di Kaliurang, Yogyakarta, secara aklamasi menyetujui usul Kyai Achmad Siddiq (Jember) untuk mendaulat Kyai Ali Ma’shum sebagai Rais ‘Aam menggantikan Kyai Bisri Syansuri. Semula Mbah Ali menolak. Tapi semua kyai mendesak beliau bertubi-tubi.
Dari pagi hingga malam Gus Dur dan Gus Mus menunggui di kediaman beliau di Krapyak, dengan tekad tak akan beringsut sebelum beliau menyatakan kesediaan. Dengan berlinangan air mata, Mbah Ali akhirnya menyerah.
“Aku tak mau jabatan”, beliau berkata, “tapi agama melarangku menghindari tanggung jawab…”Selanjutnya, Kyai Ali Ma’shum pun menjadi patron dari gairah pembaharuan NU.
Beliau pelindung utama —kalau bukan satu-satunya— anak-anak muda yang getol dengan pembaharuan, ketika gagasan-gagasan kreatif mereka memanaskan telinga kebanyakan kyai karena dianggap terlampau berani.Barangkali orang masih ingat, bagaimana Kyai As’ad Syamsul Arifin, Situbondo, suatu ketika merasa tak kuat lagi menenggang “keliaran” Gus Dur sebagai Ketua Umum PBNU sehingga hubungan diantara keduanya tegang luar biasa.
Kyai As’ad memanggil Kyai Muhith Muzadi ke Situbondo.“Tolonglah”, beliau berujar kepada Kyai Muhith, “sampiyan ingatkan Abdurrahman itu… dia sudah kelewatan”.Kyai Muhith angkat tangan.“Kok saya to, ‘Yai” jawabnya, “mestinya kan yang sepuh-sepuh seperti panjenengan yang lebih berhak…”“Wah, saya ’dak biisa… yang bisa itu Kyai Ali Ma’sum!”Pada kesempatan lain, Kyai As’ad mengundang kyai-kyai berkumpul di Surabaya.
Mbah Kyai Ali Ma’shum berhalangan, hanya mengutus Abdurrahman, seorang santri Krapyak asal Pasuruan, membawa surat beliau untuk para kyai yang hadir di Surabaya.
“Kalau rapat kyai-kyai itu sudah selesai, serahkan surat ini kepada Kyai As’ad dan sampaikan bahwa saya minta surat ini dibacakan didepan majlis”.
Demikian pesan Mbah Ali.Rapat itu rupanya membahas Gus Dur dengan segala kembelingannya, sehingga akhirnya kyai-kyai sepakat untuk membuat petisi, menuntut Gus Dur mundur dari jabatan Ketua Umum PBNU.Abdurrahman Pasuruan patuh, begitu rapat hendak ditutup, ia beranikan diri menyerobot kehadapan Kyai As’ad untuk menyerahkan surat titipan Mbah Ali berikut pesan beliau.
Surat yang kemudian benar-benar dibaca didepan majlis itu ternyata berisi pernyataan tegas bahwa Mbah Ali menolak pemberhentian Gus Dur dari jabatannya. Kyai As’ad tak punya pilihan.