Museum Sejarah Jakarta pada mulanya digunakan sebagai gedung Balaikota (Stadhuis gedung ini merupakan gedung Balaikota kedua yang dibangun pada masa pemerintahan VOC di Batavia. Pada tanggal 27 April 1626 Gubernur Jenderal Pieter de Carpentier (1623-1627) memutuskan untuk menbangun gedung balaikota yang baru ini kemudian direnovasi pada tanggal 25 Januari 1707 di masa pemerintahan Gubernur Jenderal Joan van Hoorn dan selesai direnovasi pada tanggal 10 Juli 1710 di masa pemerintahan Gubernur Jenderal Abraham van Riebeeck.
Di dalam museum sejarah ada replika peninggalan masa Tarumanega dan Pajajaran, hasil penggalian arkeologi di Jakarta, mabel antik mulai dari abad 17 sampai 19, keramik, gerabah, dan batu prasasti.
Museum Sejarah Jakarta berusaha menyediakan informasi mengenai perjalanan panjang sejarah kota Jakarta sejak masa prasejarah hingga masa kini dalam bentuk yang lebih kreatif. Selain itu sebagai pusat pertemuan budaya dari berbagai kelompok suku baik dari dalam maupun luar Indonesia dan sejarah kota Jakarta seutuhnya. Museum Sejarah Jakarta juga selalu berusaha menyelenggarakan kegiatan yang rekreatif sehingga dapat menarik perhatian pengunjung untuk mengetahui sejarah kota Jakarta dan meningkatkan kesadaran akan pentingnya warisan budaya.