Abad ke 19 area yang luas di timur lapangan medan merdeka ada sebuah area yang di beri nama Wihelmina Park, Orang kita menyebutnya taman Wihelmina. Di daerah ini juga pernah di bangun sebuah benteng belanda pada tahun 1837 yang bernama Prins Frederick .
Di tempat ini direncanakan pembangun sebuah Masjid yang dimana Presiden pertama Ir Soekarno menghendaki jika Masjid ini nantinya berdampingan dengan Gereja Katedral yang telah lebih dahulu berdiri untuk melambangkan Pancasila dasar yang menjamin dan mempertegas semangat persaudaraan, kesatuan rakyat serta lambang bangsa yang menjunjung tinggi toleransi beragama.
Tahun 1950 sudah tercetus pembangunan Mesjid Nasional, setelah proses yang lumayan lama dengan para penguasa saat itu pada tanggal 22 Februari 1955 diadakan sebuah sayembara untuk merancang Masjid yang dikabarkan menjadi yang terbesar di Asia Timur raya, (Asia Tenggara dan Asia Timur)
Di 5 Juli 1955, Pengumuman pemenang diumumkan oleh dewan juri yang akhirnya menetapkan Frederich Silaban sebagai pemenang pertama. Kode sandi untuk karyanya adalah Ketuhanan. Yang unik adalah Frederich Silaban adalah seorang opzichter disebut juga arsitek saat ini, serta seorang Kristen yang akhirnya memenangkan sayembara membuat Mesjid, sesuatu yang mungkin akan jadi perbincangan saat ini, Dimana Asal usul dan agama akan jadi bahasaan yang menyetuh SARA. Akan tetapi pada saat itu persatuan bahkan lebih kental dibanding darah keluarga sendiri bukan.
Ternyata mega proyek
ini tidak berjalan lancar lantaran kemelut politik yang dihadapi negeri ini saat saat 15 tahun pertama merdeka. Dimulai lagi pembangunanya ditanggal 24 Agustus 1961, selanjutnya dibangun cukup lelet juga sangat lama sampai akhirnya diresmikan oleh pada tanggal 22 Februari 1978 Presiden Soeharto . 17 tahun pembanguan.
Gaya Mesjid ini termasuk asitektur modern yang menerapkan bentuk geometri sederhana dan terlihat sangat megah karena dari jauh akan terlihat sebuah kubah besar berbetuk setengah bola. Bahannya pun dipilih yang besifat kokoh, netral, sederhana, dan minimalis, yaitu marmer putih dan baja antikarat.
Ada tujuh buah gerbang untuk memasuki Masjid ini yang melambangkan langit dari bumi sampai Arsy Allah SWT, dinamai juga berdasrkan Al As Maul Husna, Kubah berbentuk setengah bola besar tersebut berdiameter 45 meter yang melambangkan Angka tahun kemerdekaan negara ini.
Ada juga 12 tiang utama yang mengelilingi kubah yang melambangkan hari Kelahiran Rasulollah Nabi Mushamad SAW, di 12 Rabiul awal.
Sebetulnya adanya dua bangunan masjid yakni bangunan utama dan bangunan pendamping. Juga adanya dua kubah yaitu kubah utama dan kubah pendamping, ini melambangkan langit dan bumi, kepentingan akhirat dan kepentingan duniawi, juga bathiniah dan lahiriah.
Masjid juga adalah tempat bagi Muslim untuk lebih medekatkan diri kepada Allah SWT Sang Pencipta dan pemelihara bumi, sebgaiman a manusia kita mesti memahami Hablum minallah bukan hanya dalam pelakasanaan ibadah tapi ketulusan kita percaya akan akidah kita dan percaya akan adanya hari akhir yang di janjikan sehingga bersungguh sungguh untuk beribah kepada Allah SWT