Dengan dibuatnya kapal-kapal kelas Yamato yang masing-masing berkapasitas 70.000 ton, Jepang berharap kemampuan kapal-kapal tempurnya dapat menyaingi Amerika Serikat. Pembangunan lunas Yamato dimulai 4 November 1937 di Arsenal Angkatan Laut Kure dengan memakai galangan kapal yang didesain secara khusus. Pembangunan kapal ini dirahasiakan.
Kain berukuran besar menghalangi pemandangan sewaktu kapal ini dibagun di galangan kapal Kure. Kapal ini sangat besar, sehingga perlu dirancang dan dibuat kran gantri (alat angkat) yang masing-masing dapat mengangkat muatan 150 ton dan 350 ton.
Yamato diluncurkan 8 Agustus 1940 di bawah pimpinan Kapten (kemudian naik pangkat sebagai Laksamana Madya) Miyazato Shutoku. Yamato dinyatakan siap beroperasi secara penuh dan mulai bertugas sejak 27 Mei 1942. Yamato juga ditugaskan sebagai kapal tempur utama Isoroku Yamamoto sebagai persiapan menghadapi Pertempuran Midway. Dalam Pertempuran Midway, Laksamana Yamamoto memimpin kekuatan laut Jepang dari atas anjungan Yamato. Setelah kapal induk Jepang menderita kekalahan (empat kapal induk dan 332 pesawat yang diangkutnya hancur), Yamato dan kapal-kapal tempur utama ditarik mundur ke Hashirajima.
Pada 17 Agustus 1942, Yamato berangkat dari Kure menuju Truk. Sebelas hari kemudian, kapal selam Amerika Serikat Flying Fish memergoki Yamato, dan menembakkan empat torpedo ke arah Yamato. Keempat-empatnya luput, dan Yamato selamat tiba di Truk pada hari yang sama.
 Semasa Kampanye Militer Guadalkanal, Yamato tetap berada di Truk mengingat tingkat konsumsi bahan bakar yang boros hingga tidak mungkin dipakai dalam Pertempuran di Kepulauan Solomon
.Pada Desember 1942, Kapten (nantinya Laksamana Madya) Chiaki Matsuda ditugaskan sebagai komandan Yamato. Pada 11 Februari 1943, Musashi menggantikan peran Yamato sebagai kapal pimpinan Armada Gabungan.
Yamato tidak pernah dipakai bertempur hingga para awak kapal penjelajah dan kapal perusak Jepang di Pasifik Selatan menjulukinya "Hotel Yamato". Yamato hanya disandarkan di Truk hingga Mei 1943 saat diberangkatkan ke Yokosuka dan dikembalikan ke Kure.Selama 9 hari, Yamato masuk dok kering untuk inspeksi dan perbaikan umum.
 Pada bulan Juli 1943, Yamato kembali masuk dok kering untuk pemasangan sistem senjata antipesawat, perisai menara meriam sekunder, dan sistem kendali kapal yang diperbarui dan dipasang kembali. Pada bulan Agustus, Yamato diberangkatkan ke Truk untuk bergabung dengan Gugus Tugas berukuran besar yang dibentuk untuk mengatasi serangan udara Amerika di atol Tarawa dan Makin.
Pada November 1943, Yamato bergabung dengan gugus tugas yang lebih besar, terdiri dari enam kapal tempur, tiga kapal induk, dan sebelas kapal penjelajah sebagai reaksi atas serangan udara Amerika Serikat di Kepulauan Wake. Dalam dua kali aksinya, Yamato tidak pernah bertemu dengan kekuatan laut maupun udara Amerika Serikat, dan armada dipulangkan ke Truk.
Pada November 1943, Yamato dan Musashi diputuskan untuk diubah sebagai kapal angkut mengingat kapasitas penyimpanan kedua kapal ini yang besar dan dilindungi perisai baja.Pada 23 Desember 1943, ketika sedang mengangkut pasukan dan peralatan ke Kepulauan Admiraty, Yamato dan gugus tugasnya diadang oleh kapal selam USS Skate yang menembakkan empat buah torpedo ke arah Yamato. Dua di antaranya menghantam lambung kanan dekat menara meriam nomor 3.Kerusakan berat pada perisai kapal membuat magasen atas di menara meriam bagian belakang kebanjiran air. Yamato terpaksa dipulangkan ke Truk untuk perbaikan darurat.
Dari 19 Juni hingga 23 June 1944, Yamato mengawal Armada Mobil Ozawa selama Pertempuran Laut Filipina yang dijuluki pilot-pilot Amerika Serikat sebagai "Pesta Menembak Ayam Kalkun Mariana Raya". Kerugian pihak Jepang melebihi 400 pesawat tempur, tiga kapal induk tenggelam akibat serangan kapal selam dan serangan udara. Salah menembak ke pesawat Jepang yang sedang pulang merupakan satu-satunya aksi Yamato dalam pertempuran itu.Setelah pertempuran selesai, Yamato dan Armada Mobil ditarik mundur ke Brunei untuk pengisian bahan bakar dan dipersenjatai kembali.
Pada 1 Januari 1945, Yamato, Haruna, dan Nagato dipindahkan ke Divisi Kapal Tempur I yang baru diaktifkan kembali. Dua hari berikutnya, Yamato keluar dari dok kering. Ketika Divisi Kapal Tempur I dinonaktifkan kembali pada 10 Februari 1945, Yamato dipindahkan ke Divisi Angkut I. Pada 19 Maret 1945, Yamato diserang habis-habisan oleh pesawat terbang dari USS Enterprise, USS Yorktown, USS Intrepid yang menyerbu pangkalan angkatan laut utama Jepang di Kure ketika Yamato sedang didok. Namun Yamato hanya menderita kerusakan ringan,berkat pengawalan pilot instruktur pesawat tempur Jepang yang menerbangkan pesawat tempur Kawanishi N1K "Shinden" atau "George".
 Skuadron ini dipimpin pilot Minoru Genda yang merencanakan Pengeboman Pearl Harbor. Kehadiran pesawat-pesawat tempur Kawanishi N1K yang setara kalau tidak lebih superior dibandingkan F6F Hellcat membuat pilot-pilot Amerika terkejut, dan beberapa pesawat Amerika Serikat ditembak jatuh.Tembakan defensif antipesawat dan plat perisai dek atas yang tebal juga menjaga Yamato dari kerusakan yang serius. Pada 29 Maret 1945, Yamato berangkat dengan amunisi penuh, dan bersiap-siap melakukan pertempuran di Okinawa dalam Operasi Ten-Go.
Operasi Ten-Go yang dimulai 6 April 1945 adalah misi bunuh diri di lepas pantai Okinawa yang dilakukan secara sengaja oleh Yamato dan sembilan kapal pengawalnya. Ketika berangkat dari Kure, Yamato direncanakan untuk dikandaskan di pantai Okinawa, dan bertugas sebagai stasiun tempur yang tidak tertenggelamkan. Meriam-meriam berat kaliber 18,1 inci menurut rencana akan dipakai untuk melakukan bombardemen ke pasukan Amerika Serikat yang berada di Okinawa. Yamato hanya membawa bahan bakar cukup untuk sampai ke Okinawa. Persediaan bahan bakar yang ada memang sudah tidak cukup untuk mengantarkan Yamato ke Okinawa dan pulang kembali ke Kure.Ketika berlayar di Selat Bungo, Yamato dan kapal-kapal pengawalnya dipergoki oleh kapal selam Amerika Serikat USS Threadfin dan USS Hackleback. Keduanya melapor ke Gugus Tugas 58 tentang posisi Yamato.
Pada pukul 12.32 tanggal 7 April 1945, Yamato menyambut serangan gelombang pertama yang terdiri dari 280 pesawat dari Gugus Tugas 58, terkena tiga kali (dua bom, satu torpedo).Pada pukul 14.00, dua kapal pengawal Yamato tenggelam.Tidak lama kemudian, Yamato dan kapal-kapal pengawal yang tersisa menjadi sasaran serangan gelombang kedua yang terdiri dari 100 pesawat. Pada pukul 14.23, setelah dihantam 10 torpedo dan kejatuhan 7 bom, ruang amunisi Yamato meledak.Asap ledakan membubung setinggi 6,4 km dan dapat dilihat dari Kyushu yang berjarak 160 km dari lokasi tenggelamnya Yamato. Sejumlah 2.498 awak dari total 2.700 awak Yamato dinyatakan hilang, termasuk komandan armada Laksamana Madya Seiichi It.
