Jalur kereta api yang menghubungkan Batavia dengan Bandung melalui Bogor resmi dibuka pada 17 Mei 1884, sementara jalur baru Batavia-Bandung yang melewati Purwakarta diresmikan pada 29 Desember 1900.
Dengan adanya jalur kereta api baru ini, mobilitas pasukan dari Cimahi ke Batavia menjadi lebih efisien, karena waktu perjalanan dapat dipersingkat. Perjalanan dari Cimahi ke Batavia kini hanya memerlukan waktu sekitar 3 jam, dibandingkan dengan perjalanan melalui Jalan Raya Pos yang bisa memakan waktu hingga 3 hari.
Seiring berjalannya waktu, Cimahi mulai mengembangkan lebih banyak jalur kereta api, salah satunya adalah jalur Cimahi-Cilacap yang diresmikan pada tahun 1894. Selain itu, Cimahi juga berfungsi sebagai gerbang pertahanan bagi pangkalan militer di Andir. Pembangunan pangkalan militer di Cimahi dilakukan dengan cepat dan dalam keadaan rahasia.
Selanjutnya, berbagai fasilitas pendukung dibangun, termasuk kompleks perumahan untuk perwira, Rumah Sakit Dustira sebagai rumah sakit militer, serta barak dan tangsi Gedung Sudirman yang berfungsi sebagai markas militer. Penjara militer yang dikenal dengan sebutan 'Penjara Poncol' telah berdiri sejak tahun 1886.
Pemerintah Hindia Belanda merencanakan konsentrasi pasukan militer secara bertahap di Cimahi. Pada tahun 1885, tercatat ada tiga batalyon yang bermarkas di Cimahi, dan jumlah pasukan serta perlengkapan yang ditempatkan di sana semakin meningkat. Garnisun Cimahi resmi dibuka pada September 1896, dan sebagai dukungan bagi kesatuan artileri, pabrik mesiu di Ngawi serta unit artileri di Surabaya dipindahkan ke Kiaracondong.
Setelah Indonesia merdeka, pemerintah tetap menjadikan Cimahi sebagai pusat kegiatan militer. Oleh karena itu, Kota Cimahi dijuluki "Kota Tentara" karena banyaknya pusat pendidikan militer yang ada, seperti Pendidikan Artileri Medan dan Pusat Pendidikan Infanteri, serta berbagai institusi lainnya.
Setelah Indonesia meraih kemerdekaan, Cimahi menjadi bagian dari Kabupaten Bandung Utara. Pada tahun 1962, Kawedanaan Cimahi dibentuk, mencakup Kecamatan Cimahi, Padalarang, Batujajar, dan Cipatat. Berdasarkan Peraturan Pemerintah Nomor 29 Tahun 1975, Cimahi ditingkatkan statusnya menjadi kota administratif pada 29 Januari 1976, menjadikannya kota administratif pertama di Jawa Barat. Sejak 21 Juni 2001, Cimahi berstatus sebagai kota.
Saat ini, Cimahi merupakan salah satu kawasan pertumbuhan di sebelah barat Kota Bandung, dengan jumlah penduduk sekitar 483.000 jiwa, meningkat dari 290.000 jiwa pada tahun 1990, dengan laju pertumbuhan rata-rata sebesar 2,12% per tahun.
Cimahi dijuluki "Kota Tentara" karena terdapat banyak pusat pendidikan militer, antara lain:
- Pusat Pendidikan Artileri Medan (Pusdikarmed)
- Pusat Pendidikan Pengetahuan Militer Umum (Pusdikpengmilum)
- Sekolah Pelatih Infanteri Pusat Pendidikan Infanteri (SPI Pusdikif)
- Pusat Pendidikan Jasmani (Pusdikjas)
- Pusat Pendidikan Peralatan (Pusdikpal)
- Pusat Pendidikan Pembekalan Angkutan (Pusdikbekang)
- Pusat Pendidikan Polisi Militer (Pusdikpom)
- Pusat Pendidikan Perhubungan (Pusdikhub)
Selain itu, terdapat juga sejumlah markas tentara, seperti:
- Brigif 15/Kujang II
- Pussenarhanud Kodiklatad
- Pussenarmed Kodiklatad
- Kiban Yonzipur 3/Macan Kumbang
- Kodim 0609/Cimahi
- Yonarmed 4/105 Parahyangan
- Tepbek Cimahi
- Koramil Cimahi
- Rumkit Tk. II Kesdam III/Siliwangi
- Kesdim Cimahi