PSIS Semarang saat ini bisa dikatakan tidak terlalu banyak dibicarakan kiprahnya oleh kalangan pecinta bola Indonesia. Kecuali kasus sepakbola gajah yang memalukan itu, PSIS bukan termasuk tim yang diperhitungkan di Indonesia saat ini. Padahal jika telusuri lebih jauh PSIS Semarang memiliki historis yang sangat panjang.
PSIS Semarang berdiri pada tanggal 18 Mei 1932 atas prakarsa sembilan klub amatir di Kota Semarang yaitu Romero, PSKM, REA, MAS, PKVI, Naga, RIM, RDS, dan SSS. PSIS awalnya menggunakan Stadion Diponegoro Semarang sebagai home base, kemudian pindah ke Stadion Citarum tahun 1984-1994 dan menggunakan Stadion Jatidiri tahun 1994 hingga sekarang. Sejak awal berdiri PSIS memang bukan termasuk jajaran klub paling sukses di era perserikatan maupun era Liga Indonesia. Namun PSIS tetap memiliki pondasi kuat dalam sejarah sepakbola indonesia melalui prestasinya. Sayangnya prestasi yang diraih PSIS hanya sesekali, timbul dan setelah itu tenggelam kembali. Hal ini terus berulang menjadi semacam siklus.
Siklus prestasi PSIS tersebut penulis bagi menjadi empat periode. Periode pertama ( 1932-1949), periode kedua (1950-1961), periode ketiga (1978-1988), dan periode keempat (1998-2006).
Pada periode pertama tidak banyak catatan yang tersedia baik hasil pertandingaan maupun pemain yang memperkuat PSIS saat itu. Hanya saja pada periode ini PSIS mencatat hasil terbaik pada tahun 1936, dalam kejurnas PSSI (Perserikatan) 1936 PSIS menjadi juara tiga di bawah juara Persis Solo dan Persib Bandung. Sedangkan dalam kompetisi tahun-tahun lainnya PSIS tidak pernah masuk tiga besar. Era ini merupakan era emas Persis Solo dengan berhasil menggondol juara perserikatan tujuh kali, kemudian VIJ Jakarta (sekarang Persija) 4 kali juara, Persib Bandung dan PSIM Yogyakarta sekali tahun 1937 dan 1932.
Pada periode kedua PSIS menjadi satu tim yang menghasilkan pemain-pemain berkualitas yang menjadi langganan Timnas. Beberapa pemain PSIS yang sempat memperkuat tim merah putih adalah Han Siong (kiper), Lee Kian Ann, Sugianto, Kholil Danoe Atmodjo, dan Jasrin Jusron. Danoe dan Jasrin Jusron bahkan turut ambil bagian dalam Olimpiade Melbourne 1956 yang sangat melegenda itu karena keberhasilan Indonesia menahan raksasa Uni Sovyet 0-0. Legenda sepakbola indonesia Djamiat Dalhar (yang di kemudian hari menjadi ketua umum PSSI) juga pernah memperkuat PSIS Semarang meski tidak lama. Meski diperkuat banyak pemain nasional, PSIS belum berhasil merebut juara nasional perserikatan. Dalam kompetisi perserikatan tahun 1950 yang merupakan musim pertama pasca pengakuan kedaulatan, PSIS berhasil meraih posisi empat besar. PSIS berhasil lolos ke tingkat nasional setelah menjadi juara jawa tengah dengan menyingkirkan Persis Solo dan PSIM Jogjakarta. Sayang PSIS harus tersingkir di semifinal karena dikalahkan Persib Bandung 2-0 yang akhirnya menjadi juara setelah mengalahkan Persebaya 2-0. Setelah itu PSIS kembali tenggelam. Pada kompetisi perserikatan tahun 1951, 1952, 1954, dan 1957 tim kebanggaan masyarakat Semarang ini selalu gagal lolos hingga tingkat nasional. PSIS kerap kalah bersaing dengan Persis Solo di babak-babak awal.
Prestasi PSIS Semarang meningkat tajam pada musim 1959. mengawali kompetisi dari tingkat terbawah, PSIS sukses menjadi juara babak zone B (Jateng), juara babak interzone ABC dan sukses menjuarai babak play off sehingga lolos ke putaran nasional perserikatan 1959 yang terdiri dari tujuh klub yaitu PSIS, PSM Makassar, PSP Padang, Persema Malang, Persib Bandung, Persija Jakarta, dan PSMS Medan. Dalam putaran nasional PSIS berhasil finish di posisi tiga, di bawah PSM Makassar dan Persib Bandung.
Prestasi nyaris juara membuat para pendukung PSIS menganggap raihan prestasi yang lebih baik akan terjadi pada PSIS dalam waktu dekat, kenyataannya PSIS kembali tenggelam. Musim 1961 PSIS menduduki posisi juru kunci dari tujuh tim yang bertanding di tingkat nasional perserikatan. Pada tahun-tahun berikutnya nama PSIS tidak terdengar lagi di level elite sepakbola Indonesia. Namun masih ada beberapa pemain yang cukup terkenal namun belum sampai menembus Tim Nasional Indonesia seperti Cornelis Soetadi, Sartono Anwar, Sugito Wiyono, Solekan, dan lain-lain.
Kompetisi Perserikatan musim 1975/1978 bisa dikatakan sebagai titik awal PSIS Semarang (dan Jawa Tengah) menancapkan pondasi yang kuat dalam sejarah sepakbola Indonesia. Musim itu PSIS untuk pertama kali sejak tahun 1961 berhasil lolos ke tingkat nasional Perserikatan (babak 18 besar). PSIS memang langsung tersingkir di babak pertama setelah hanya finish di peringkat empat dari lima tim grup C, namun grafik peforma PSIS terus menanjak dengan sederet prestasi setelah itu. Juara Piala Tugu Muda 1978, juara III divisi I 1979, juara invitasi Perserikatan 1981, dan juara Divisi I Perserikatan tahun 1983. Tahun 1981 PSIS dikirim mewakili Indonesia di Kings Cup Thailand dan menjadi tim asal Jateng pertama yang tampil dalam turnamen internasional. Setelah masuk Divisi Utama Perserikatan tahun 1983 grafik PSIS terus menanjak tiap tahunnya. Juara babak “6 kecil” 1985, lolos ke babak 6 besar 1986, dan puncaknya menjadi juara Divisi Utama perserikatan musim 1986/1987 setelah mengalahkan Persebaya Surabaya 1-0 di final melalui gol tunggal Syaiful Amri pada menit 76.
Sebagai juara Perserikatan PSIS berhak tampil dalam Turnamen Piala Sultan Hassanal Bolkiah di Brunei. Hasil yang dicapai pun cukup membanggakan, PSIS menjadi runner up setelah ditaklukan Johor Malaysia 4-1. Sebelumnya PSIS dibantai 6-1 Johor Malaysia, menang 2-0 atas Timnas Phillipina, dan menyingkirkan Singapura B 2-0 di semifinal.
Musim 1986/1987 memang menjadi musim terbaik PSIS. Di bawah asuhan Pelatih merangkap manajer Sartono Anwar dan asisten Cornelis Soetadi, PSIS dikenal sebagai tim yang menggunakan permainan cepat dengan umpan pendek yang disertai skema penyerangan coming from behind dari dua wing back-nya Budiawan Hendratno dan Eryono Kasiha. Gaya permainan semacam ini dianggap sebagai ciri baru sepakbola indonesia.
Pada musim 1986/1987 inilah julukan Mahesa Jenar lahir. Kisahnya saat PSIS akan bertanding menghadapi PSMS Medan dalam babak 6 besar di Stadion Utama Senayan, Gubernur Jawa Tengah HM Ismail menyebut PSIS sebagai Mahesa Jenar kepada wartawan. Jadilah julukan itu menjadi legal sebagai julukan PSIS selain julukan tidak resmi lain yang juga lahir pada era ini “jago kandang” dan “jago becek”