Pembangunan memakan waktu 5 tahun dan diperkirakan selesai pada tahun 1775. Tahun 1912, atap surau diganti, yang terbuat dari ijuk diganti menggunakan seng. Selanjutnya, pada tahun 1956, dinding-dinding yang sudah lapuk diperbarui.
Mohammad Zein, salah seorang ulama yang pernah mengajar di Surau Gadang mengajarkan penduduk membaca ayat Al-Quran, ilmu umum seperti logika, dan ilmu bela diri silat.
Sebelumnya, ia murid dan pernah belajar di Surau Haji Miskin. Muhammad Zein ikut pula terlibat dalam pemberontakan Belasting pada 1908.
Sebelum masa kemerdekaan, masjid ini pernah menjadi basis pengembangan Islam melalui kehadiran Madrasah Thawalib Gunuang dan masih ada hingga sekarang, yang berlokasi di sekitar masjid Asasi.
Pada awal abad ke-20, Masjid Asasi ini masih dijadikan pusat aktivitas keagamaan penduduk Nagari. Terutama Nagari Ampek Koto.
Namun, seiring lajunya pertambahan penduduk, sejumlah surau-surau pun sudah dibangun, masjid ikut dialihfungsikan menjadi masjid. Surau pun seperti Surau Ngalau, Surau Koto Katiak, Surau Gantiang, dan Surau Lubuak Padang Marapulai berdiri.
Sekarang pun masjid ini masih kokoh meski sudah beratus masjid berdiri sebagai penerusnya.
