Gagasan pendirian masjid ini disambut baik oleh Presiden Soekarno. Ia bahkan turun tangan menjadi Ketua Dewan Juri sayembara rancang bangun Masjid Istiqlal, yang anggotanya terdiri dari para arsitek dan ulama terkenal, seperti  Ir. Roosseno Soerjohadikoesoemo, Ir. Djoeanda Kartawidjaja, Ir. Suwardi, Ir. R. Ukar Bratakusumah, Rd. Soeratmoko, H. Abdul Malik Karim Amrullah (HAMKA), H. Aboebakar Atjeh, dan Oemar Husein Amin. Presiden Soekarno sendiri adalah insinyur lulusan ITB, jadi memiliki keahlian yang sesuai untuk pekerjaan besar ini.
Dalam pandangan Presiden Soekarno, masjid negara ini harus berdekatan dengan pusat pemerintahan, dekat dengan alun-alun seperti halnya masjid-masjid di berbagai kota di Indonesia, dan selain itu juga perlu berdampingan dengan tempat peribadatan pemeluk agama lain untuk melambangkan semangat persaudaraan, persatuan dan toleransi beragama sesuai Pancasila. Maka ditetapkanlah masjid Istiqlal di lokasinya saat ini: dekat dengan Istana Merdeka, dengan lapangan Medan Merdeka, dan dengan Gereja Katedral Jakarta.
Sayembara arsitektur masjid Istiqlal dimenangkan oleh Ir. Frederick Silaban, seorang penganut Kristen yang mengalahkan banyak peserta lain termasuk dua tim mahasiswa ITB. Pemancangan pertama dilakukan oleh Presiden Soekarno pada 24 Agustus 1961 bertepatan dengan peringatan Maulid Nabi Muhammad SAW, dengan disaksikan oleh ribuan umat Islam.
Namun pembangunan masjid Istiqlal tidak berjalan mulus karena situasi politik yang tidak stabil. Pemerintah tidak bisa fokus melaksanakan berbagai rencana yang sudah ditetapkan. Baru setelah Presiden Soeharto dapat menstabilkan ekonomi, membentuk pemerintahan yang kuat dan memiliki anggaran pembangunan yang memadai, maka pembangunan masjid Istiqlal pun dimulai kembali. Masjid Istiqlal kemudian diresmikan penggunaannya pada tanggal 22 Februari 1978 oleh Presiden Soeharto.
Sejak itu, masjid Istiqlal digunakan untuk berbagai aktivitas keagamaan negara termasuk perayaan hari-hari besar Islam, di samping fungsinya sebagai tempat ummat Islam menjalankan sholat 5 waktu.
Masjid Istiqlal kini
Adalah Presiden Jokowi yang memerintahkan agar masjid Istiqlal direnovasi besar-besaran setelah 40 tahun berfungsi sebagai masjid negara. Ide merenovasi itu tercetus ketika Presiden Jokowi mengantarkan Perdana Menteri India Narendra Modi mengunjungi Masjid Istiqlal dan menyaksikan ada bagian-bagian masjid yang sudah tidak representatif lagi sebagai masjid negara.
Maka Kementerian PUPR segera menyiapkan anggaran Rp. 465 miliar pada 2019-2020 untuk membuat masjid Istiqlal kinclong kembali, termasuk memperindah interior masjid dan menambah ruang parkir untuk menampung 2.000 kendaraan. Renovasi masjid diharapkan selesai pada Maret 2020.