Menurut cucunya, sejarahnya Abuya beristrikan Ummi Hajjah Rabi'ah, adalah setelah lolos berdebat di Jaho. Oleh Syekh Muhammad Djamil Jaho diberi soal, lalu bila terjawab dengan baik, diberi hadiah dengan dinikahkan langsung dengan putrinya, Ummi Hajjah Rabi'ah.
Berguru ke banyak ulama lulusan Timur Tengah, Minangkabau, dan Aceh sendiri.
Pada tanggal 14 Oktober 1957, Abuya Muda Waly diundang oleh Presiden pertama RI, Soekarno ke Istana Negara.Â
Abuya Muda Waly Al-Khalidy diberikan gelar Bapak Pendidikan Aceh. Dari sikapnya yang tegas terhadap dunia pemberontakan atau radikal yang dilancarkan oleh DI/TII, Abuya terkenal seorang ulama nasionalis.
Dan dia satu-satunya ulama penggiat dan pengamal aliran tariqat Naqsabandiyah, di awal-awal penyebaran kajian tasawuf di tanah Aceh.
Namun, dari segi aqidah, Abuya Muda Waly Al-Khalidy tetap dengan 'Asyari, sama dengan Syekh Abdurrauf as-Singkili yang memilih tariqat Shatariyah, di Mazhab fiqh, dia berpedoman pada Syafi'i.
Makanya, di kalangan Shatariyah Padang Pariaman, nama Abuya Muda Waly Al-Khalidy terasa baru.
Hanya para tuanku yang mengaji tahun 80 an, tahu dengan cerita Abuya Muda Waly Al-Khalidy ini.
Oleh Syekh H. Abdullah Aminuddin Tuanku Shaliah Lubuak Pandan (1908-1996), nama Abuya Muda Waly Al-Khalidy ini sudah tidak asing.
Sering ketika mengaji dulu, dia menyebut-nyebut nama dan kehebatan Abuya Muda Waly Al-Khalidy ini.
Barangkali kedua ulama ini, pernah bersua di MTI Jaho Padang Pariaman, dibawah asuhan Syekh Muhammad Djamil Jaho.Â
