Ia menjadi lawan berat dari Jenderal Spoor, Panglima Besar Angkatan Bersenjata Kerajaan Belanda.
Ia juga menghadapi pemberontakan dari dalam, termasuk upaya kudeta pada 1948. Ia kemudian menyalahkan peristiwa-peristiwa tersebut sebagai penyebab penyakit tuberkulosis-nya; karena infeksi tersebut, paru-paru kanannya dikempeskan pada bulan November 1948.
Pada tanggal 19 Desember 1948, beberapa hari setelah Soedirman keluar dari rumah sakit, Belanda melancarkan Agresi Militer II untuk menduduki Yogyakarta.
Di saat pemimpin-pemimpin politik berlindung di kraton sultan, Soedirman, beserta sekelompok kecil tentara dan dokter pribadinya, melakukan perjalanan ke arah selatan dan memulai perlawanan gerilya selama tujuh bulan.
Awalnya mereka diikuti oleh pasukan Belanda, tetapi Soedirman dan pasukannya berhasil kabur dan mendirikan markas sementara di Sobo, di dekat Gunung Lawu.
Dari tempat ini, ia mampu mengomandoi kegiatan militer di Pulau Jawa, termasuk Serangan Umum 1 Maret 1949 di Yogyakarta, yang dipimpin oleh Letnan Kolonel Soeharto. Ketika Belanda mulai menarik diri, Soedirman dipanggil kembali ke Yogyakarta pada bulan Juli 1949. Meskipun ingin terus melanjutkan perlawanan terhadap pasukan Belanda, ia dilarang oleh Presiden Soekarno. Penyakit TBC yang diidapnya kambuh; ia pensiun dan pindah ke Magelang.
Soedirman wafat kurang lebih satu bulan setelah Belanda mengakui kemerdekaan Indonesia. Ia dimakamkan di Taman Makam Pahlawan Semaki, Yogyakarta.
Kematian Soedirman menjadi duka bagi seluruh rakyat Indonesia. Bendera setengah tiang dikibarkan dan ribuan orang berkumpul untuk menyaksikan prosesi upacara pemakaman. Soedirman terus dihormati oleh rakyat Indonesia.
Perlawanan gerilyanya ditetapkan sebagai sarana pengembangan esprit de corps bagi tentara Indonesia, dan rute gerilya sepanjang 100-kilometre (62 mi) yang ditempuhnya harus diikuti oleh taruna Indonesia sebelum lulus dari Akademi Militer.
Soedirman ditampilkan dalam uang kertas rupiah keluaran 1968, dan namanya diabadikan menjadi nama sejumlah jalan, universitas, museum, dan monumen. Pada tanggal 10 Desember 1964, ia ditetapkan sebagai Pahlawan Nasional Indonesia.
JENDERAL BESAR DR. ABDUL HARIS NASUTION
