Kemarahan Kiai Pengulu
Selang beberapa hari, diketahuilah beberapa pemuda menjadi dalang dari peristiwa penggarisan kapur di masjid gedhe. Saat diintrogasi Kiai Pengulu, terungkaplah alasan pemuda itu menggaris lantai masjid karena setuju dengan semangat pembetulan arah kiblat yang diusung Kiai Dahlan. Mendengar jawaban ini, walaupun para pemuda ini dibebaskan, tetapi amarah yang bersulut-sulut dari Kiai Pengulu semakin memuncak. Sebelumnya, Kiai Pengulu telah dibikin naik pitam karena sebuah khotbah Kiai Dahlan yang menyindir perilaku TBC (Tahayul, Churafat, dan Bid`ah) di Kauman. Kini, ia merasa semakin dipermainkan oleh Kiai Dahlan dengan aksi penggarisan kiblat masjid gedhe.
Kiai Pengulu Cholil Kamaludingrat semakin resah dan tidak suka dengan keberadaan Langgar Kidul yang semakin banyak jamaahnya dengan arah kiblat yang serong itu. Ia menilai tindakan Kiai Dahlan telah mencoreng dan merendahkan nama baik dirinya sebagai Pengulu Keraton Yogyakarta. Kiai Pengulu kemudian mengirim utasan kepada Kiai Dahlan untuk memintanya membongkar atau menutup langgarnya. Bagai petir di siang hari, Kiai Dahlan berlinangan air mata, terkejut tak menyangka bahwa kehadiran langgarnya akan sangat mengganggu bagi Kiai Pengulu. Namun, itu tidak menyurutkan Kiai Dahlan untuk tetap mempertahankan langgarnya.
Kali ini utusan Kiai Pengulu datang untuk yang kedua kalinya dengan membawa tututan serius, jika Langgar Kidul tidak segera ditutup, maka Kiai Pengulu akan bertindak dengan merobohkannya sendiri. Tetap teguh pendirian, jawaban Kiai Dahlan tetap tidak. Betul saja, diceritakan dalam buku karya Kiai Sudja`, murid langsung Kiai Dahlan, bahwa pada jam delapan malam, pada tanggal 15 Ramadhan, tahun 1899 masehi, segerombolan orang dan kuli dengan badan besar berduyun-duyun menyusuri gang-gang sempit Kauman dari Pengulon menuju Langgar Kidul.
Sesampainya di halaman Langgar Kidul, mereka mulai berbuat rusuh dengan menggaggu jemaah yang sedang me-ndarus Al-Qur`an. Jemaah yang ada di langgar panik dan berhamburan keluar dengan membawa kitab suci mereka. Orang-orang utusan Kiai Pengulu itu dengan membabi buta memporakporandakan Langgar Kidul. Tak cukup sampai situ, tali-tali tambang dikaitkan pada sudut-sudut tiang kayu langgar dan ditarik bersama-sama. Tak lama kemudian terdengar gemuruh jatuhnya tiang kayu, genting, dan tembok. Langgar Kidul sudah roboh. Langgar telah rata dengan tanah, tidak ada lagi yang tersisa. Untungnya, dalam peristiwa ini Kiai Dahlan sedang pergi.
Langgar Kidul Yang Baru
Sekembalinya pada pagi harinya, Kiai Dahlan benar-benar sedih, kecewa, dan hatinya tercabik-cabik dengan melihat apa yang terjadi dengan Langgar Kidul di hadapannya. Dengan rasa sedih dan kecewa yang luar biasa, kiai mengajak istri dan anak-anaknya ke Stasiun Tugu, hendak pergi keluar dari Yogyakarta. Belum sampai kereta berangkat, Kiai Dahlan disusul oleh kakak iparnya, Kiai dan Nyai Shaleh di gerbong kereta. Kiai Shaleh membujuknya agar tidak mutung dan bangkit kembali dengan membangun kembali Langgar Kidul yang baru. Akhirnya, setelah lama termenung, Kiai Dahlan luluh hatinya dan menuruti kata kakaknya agar kembali ke Kauman.
Dalam waktu beberapa bulan, pada awal 1900-an, Langgar Kidul telah selesai dibangun. Bangunan langgar yang baru ini terdiri dari dua lantai, dengan ruang salat berada di lantai atas, serta lebih kokoh dari yang sebelumnya. Selain itu, untuk menyiasati kecurigaan arah kiblat yang serong ke utara, maka langgar yang baru ini pengimamannya dibuat lurus menghadap ke barat, tetapi saf-saf di belakangnya tetap bergaris serong.
Setelah Langgar Kidul selesai dibangun, demi menghindari gesekan dengan warga Kauman yang kontra dengan Kiai Dahlan dan "mendinginkan" suasana di Kauman, maka Kiai Dahlan pergi berhaji untuk yang kedua kalinya ditemani putranya, Siraj Dahlan, pada 1903. Sepulangnya dari Mekkah, Kiai Ahmad Dahlan kembali melanjutkan dakwah amar ma`ruf nahi munkar-nya dengan memanfaatkan bangunan Langgar Kidul yang baru. Semangat Kiai Dahlan untuk kembali berdakwah dan memperbaiki kondisi sosial-keagamaan masyarakat sekitarnya bangkit kembali. Kelak, di kompleks Langgar Kidul akan digunakan sebagai bangunan sekolah Islam modern pertama yang dirintis Kiai Dahlan.