Pada tahun 1944 menjadi Komandan Batalyon 2, Kompi 3, Seksi 1, dan kemudian menjabat sebagai Komandan Batalyon 4/Resimen Yanni dan Komandan Wehrmacht/WK II Kedu (1950-1951).
Pada tahun 1951 menjadi Komandan Batalyon Bull Raider dan kemudian menjadi Komandan Brigade Q Praloga I (1950-1951).
Pada tahun 1955, Ahmad Yani masuk Sekolah Staf Umum dan Komando di Fort Leaven Worth, Kansas, AS.
Pada tahun 1956 ia mengikuti Kursus Perang Khusus Inggris.
Pada tahun 1962, ia menjadi menteri dan panglima tentara di bawah pemerintahan Sukarno.
Ahmad Yani dikenal berani menghadapi berbagai tantangan.
Pada tahun 1943 ia bergabung dengan PETA (Pengawal Perlindungan) sebagai anggota dan kemudian menjadi komandan Brigade Diponegoro.
Ia juga menumpas geng DI/TII di Jawa Tengah dan menghadapi pemberontakan Tentara Umat Islam (AUI).
Pada tanggal 30 September 1965, Ahmad Yani terbunuh dalam peristiwa G30S/PKI.
Jenazahnya dan korban lainnya digali pada tanggal 4 Oktober, dan setelah pemakaman kenegaraan, mereka dimakamkan di Taman Makam Pahlawan di Kalibata.
Pada hari yang sama, Yani dan kawan-kawan resmi dinyatakan sebagai pahlawan revolusi melalui Keputusan Presiden Nomor 111/KOTI/1965, dan pangkatnya secara anumerta dinaikkan menjadi Letnan Jenderal 4.