Menurut catatan sejarah, balai kota kedua ini hanya bertingkat satu dan pembangunan tingkat kedua dilakukan kemudian. Tahun 1648 kondisi gedung balai kota mengalami penurunan akibat struktur tanah di Kota Batavia yang kala itu sangat labil sehingga tidak mampu menahan gedung yang sangat berat. Â
Akhirnya pada tahun 1707, atas perintah Gubernur Jenderal Joan van Hoorn, gedung balai kota dibongkar lagi dan dibangun ulang dengan menggunakan pondasi yang sama. Â
Peresmian gedung balai kota ketiga dilakukan oleh Gubernur Jenderal Abraham van Riebeeck pada tanggal 10 Juli 1710, dua tahun sebelum bangunan ini selesai secara keseluruhan. Â
Gaya arsitektur gedung balai kota mengingatkan kita akan Istana Dam di Amsterdam (Belanda). Butuh waktu 5 tahun untuk menyelesaikan bangunan gedung balai kota itu, yang dibangun pada kurun waktu 1707 sampai 1712.
Bangunan gedung balai kota terdiri atas bangunan utama ditambah dua gedung (sayap) di bagian timur dan barat. Serta bangunan pendamping yang berfungsi sebagai kantor, ruang pengadilan dan penjara bawah tanah.
Balai kota Batavia ini selama dua ratus tahun (dua abad) difungsikan sebagai kantor administrasi pemerintah Kota Batavia. Selain itu juga digunakan sebagai tempat College van Schepenen (Dewan Kota Praja) dan Raad van Justitie (Dewan Pengadilan). Â
Pada awalnya pelaksanaan sidang Dewan Pengadilan dilakukan di dalam Kastil Batavia. Namun kemudian dipindahkan ke sayap timur balai kota dan baru kemudian dipindahkan ke gedung pengadilan yang baru pada tahun 1870. Â
Di dalam gedung Balai Kota Batavia terdapat ruang tahanan di mana pada masa VOC dijadikan penjara utama di kota Batavia. Beberapa tokoh yang pernah menempati penjara balai kota adalah bekas Gubernur Jenderal Belanda di Sri Lanka Petrus Vuyst, Untung Suropati dan Pangeran Diponegoro. Â
Seiring dengan perkembangan zaman, Kota Batavia maju dan berkembang dengan pesat sehingga gedung balai kota yang terletak di kawasan Taman Fatahillah itu ditutup. Â
Beragam aktivitas kantor administrasi pemerintah Kota Batavia pada tahun 1913 selanjutnya dipindahkan ke Tanah Abang West, sekarang bernama Jalan Abdul Muis no. 35 Jakarta Pusat.Â
Pada tahun 1919 gedung balai kota dipindahkan lagi ke Koningsplein Zuid atau yang sekarang bernama Jalan Medan Merdeka Selatan No. 8-9 Jakarta Pusat. Â