Seperti yang sudah dibicarakan dengan orang tuanya Yos melajutkan pendidikaannya di Kweekschool (sekolah pendidikan guru) di Muntilan. Namun takdir berkata lain karena Yos gagal menyelesaikan studi keguruannya. Saat itu tahun 1942 terjadi peralihan kekuasaan dari Belanda ke Jepang. Meski kondisi negeri sedang kacau dan Yos tidak berhasil menjadi guru, Yos tidak menyerah. Dia justru bangkit dan mencoba kesempatan untuk menggapai cita-cita masa kecilnya menjadi prajurit.
Saat itu pemerintahan militer Jepang tengah membutuhkan banyak tambahan tenaga untuk menghadapi Sekutu di Perang Asia Timur Raya. Setelah melalui banyak perdebatan dengan orang tuanya akhirnya Yos diizinkan untuk masuk Sekolah Tinggi Pelayaran di Semarang yang ia tempuh selama setahun dan berkat kerja kerasnya Yos menjadi lulusan terbaik tahun itu dan dapat membanggakan orang tuanya. Prestasinya tersebut membuat Yos kemudian dipekerjakan oleh Jepang di kapal Goo Usamu Butai sebagai seorang perwira.
“Yaampun Yos! ibu sama bapa bangga toh liat kamu sudah sukses gini!” ujar Mariyam dengan histeris.
“Nggeh bu, ini semua juga toh berkat doa dan restu dari bapa sama ibu” timpal Yos dengan rendah hati.
“Tak sia-sia ndok kau tidak menyelesaikan sekolah keguruan, rupanya ini memang sudah jalanmu Yos menjai seorang prajurit” tambah bapa sambil merangkul pundak anaknya.
“Nggeh pa, Yos berani ambil keputusan ini juga dengan termotivasi agar bisa menjadi seorang prajurit yang hebat seperti bapa” balas Yos sambil menatap mata bapanya.
“Maafkan bapa dan ibu ndok sudah ndak percaya padamu” sambil memeluk Yos.
“Orapopo pa” jawab Yos sambil membalas pelukan bapanya disusul dengan pelukan dari ibunya.
Tak berselang lama, Ir.Soekarno membacakan proklamasi kemerdekaan Indonesia didepan rakyat nusantara diiringi dengan kekalahan Jepang dari Sekutu. Angin yang berhembus, dinding-dinding yang kokoh menjadi saksi bisu betapa khidmatnya suasana kali ini.
Penantian yang sudah ditunggu oleh rakyat nusantara selama hampir ratusan tahun akhirnya terjadi didepan mata, tak sedikit rakyat nusantara menahan haru ketika mendengar pembacaan proklamasi tersebut. Hal ini rupanya membukakan jalan karier bagi Yos. Yos Sudarso kemudian bergabung dengan BKR (Badan Keamanan Rakyat) di sektor kelautan (BKR Laut) yang kemudian bernama Tentara Angkatan Laut Republik Indonesia (ALRI).
Tiga tahun terasa berlalu dengan cepat perjuangan dan rintangan yang dilalui Yos selama ini dengan keringat yang tak henti bercucuran mengalir begitu saja, saat ini ia menempuh pendidikan Sekolah Angkatan Laut di Surabaya pada 1950. Yos Sudarso sering mengikuti misi atau operasi militer untuk mengatasi berbagai pemberontakan yang terjadi di wilayah NKRI. Walaupun ketika itu armada kapal laut yang dimiliki Indonesia masih sangat minim sekali. Di tahun 1950, Belanda mengakui kedaulatan Indonesia.
