Warga Tionghoa pada waktu itu membawa patung Ma Zu Thien Shang Shen Mu setinggi 97 cm langsung dari Tiongkok guna disembahyangi di Klenteng tersebut.
Sebelumnya bangunan bergaya khas Tiongkok sangat sederhana didirikan di sebelah barat Sungai Madiun. Namun, setelah mendapat lahan yang cocok, pindah ke Jalan HOS Cokroaminoto hingga sekarang.
Klenteng Hwie Ing Kiong Madiun memiliki bangunan depan 4 pilar dengan ukiran naga. Lalu di bagian belakang terdapat bangunan pagoda dengan 3 tingkat, yakni dari yang paling atas Yu Huang Da Di, kemudian Maitreya, dan terakhir adalah Tee Cong Ong Pu Sa.
Walaupun pagoda sempat mengalami kebakaran hebat pada tahun 1987, sejarah lama tak terhapuskan hingga sekarang, yakni lantai tidak pernah diganti. di atas lantai ada banyak jejak kaki Hu Shen yang dipercaya keluar membantu umat Hwie Ing Kiong.
Setelah terjadi kebakaran, Klenteng ini mulai dibangun kembali dengan megah. Pagoda yang dulunya berbahan kayu semua direnovasi menjadi pagoda yang sangat megah seperti saat ini. Pada tanggal 27 April 1989 Klenteng Hwie Ing Kiong diresmikan oleh Walikotamadya Madiun, Kepala daerah tingkat II, Drs. Masdra M Jasin.
Warna bangunan Klenteng Hwie Ing Kiong didominasi warna merah karena warna merah sebagai simbol keberuntungan bagi umat Tri Dharma. Di sisi lain juga tampak altar pemujaan terhadap pendiri dan orang-orang yang berjasa dalam kelenteng Hwie Ing Kiong, sebagai bentuk bakti yang dalam kepada leluhur.
Jika kita ingin berkunjung ke Klenteng Hwie Ing Kiong Madiun. Jangan lupa menjaga sopan santun dan peraturan yang telah ditetapkan, terutama menghormati umat Tri Dharma yang sedang berdoa. menjaga kebersihan penting juga, karena semua daerah yang ada di sekitar Klenteng sangat bersih dan indah. Madiun, juga termasuk kota paling bersih sejak 16 tahun yang lalu dan mendapat piala adipura hingga 14 kali berturut-turut.
Penting juga, jangan lupa berdoa demi keselamatan, kesejahteraan semua umat.
Salam,