Ketika menjabat sebagai Menteri Pertahanan, Rumsfeld juga membantu Presiden Ford untuk merumuskan perjanjian Strategic Arms Limitation Talks (SALT) yang terbaru, yang nantinya akan dikenal sebagai SALT II Treaty dengan Uni Soviet. Ford berupaya agar perjanjian SALT II Treaty ini dapat segera selesai sebelum Pemilihan Presiden tahun 1976, sedangkan Rumsfeld berupaya agar SALT II Treaty ini bisa menjadi alasan bagi Uni Soviet untuk secara diam-diam memperkuat kekuatan Militernya dan juga melancarkan invasi ke Negara lain. Rumsfeld juga terus berupaya agar Amerika Serikat tetap masih terlihat kuat dari segi kekuatan Militer walaupun perjanjian SALT II Treaty nantinya sudah disetujui oleh kedua belah pihak, Amerika Serikat dan Uni Soviet.
Tetapi sayangnya pasca Perang Vietnam banyak pihak yang menginginkan agar anggaran persenjataan dikurangi dan lebih dipusatkan untuk keperluan yang lainnya. Hal tersebut tentunya juga dapat menghalangi kebijakan-kebijakan Ford dan Rumsfeld dalam menyusun perjanjian SALT II Treaty ini. Tidak hanya itu, hal tersebut juga dapat memperlemah posisi Ford pada pemilihan Presiden tahun 1976, di mana banyak pihak yang seolah-olah sudah cukup dengan perang dan segala macam konflik, di mana Ford dan Rumsfeld masih setuju untuk memperkuat militer Amerika Serikat sedangkan banyak pihak yang menginginkan agar penguatan militer tidak lah lagi menjadi prioritas.
Alhasil akibatnya perjanjian SALT II Treaty pun tidak berhasil terealisasi sebelum pemilihan Presiden tahun 1976 dan Gerald Ford juga harus merelakan kursi kepresidenannya setelah kalah pada ajang Pemilihan Presiden tahun 1976 dengan kandidat Calon Presiden dari Partai Demokrat yaitu James Earl Carter Jr., atau yang biasa dikenal sebagai Jimmy Carter. Kalahnya Ford dalam pemilu Presiden tahun 1976, juga menyebabkan Rumsfeld juga harus kehilangan posisinya sebagai Menteri Pertahanan. Rumsfeld turun dari posisinya sebagai Menteri Pertahanan pada January 1977 dan digantikan oleh Harold Brown yang merupakan seorang scientist tulen dan juga pernah menjabat sebagaiMenteri Angkatan Udara. Perjanjian SALT II Treaty pun pada akhirnya ditandatangani oleh Presiden Jimmy Carter dan Pemimpin Uni Soviet pada waktu itu Leonid Brezhnev pada 18 Juni, 1979. Perjanjian SALT II Treaty yang ditandangani oleh Carter dan Brezhnev ini mendapat kritikan dari Rumsfeld, karena dianggap justru memperlemah posisi Amerika Serikat, apalagi setelah Uni Soviet melancarkan serangan ke Afghanistan bulan Desember tahun 1979 atau enam bulan setelah ditandatanganinya perjanjian SALT II Treaty. Tetapi di sisi lain Rumsfeld juga masih sering memberi nasihat dan masukan kepada Pemerintahan Presiden Jimmy Carter dalam bidang pertahanan, seperti ketika krisis sandera di Iran pada tahun 1980.
Sektor Swasta dan Pemerintahan Presiden Ronald Reagan
Setelah turun dari jabatannya sebagai Menteri Pertahanan, Rumsfeld memilih untuk bekerja di sektor swasta dan pada tahun 1977 Rumsfeld ditunjuk sebagai CEO perusahaan farmasi bernama G. D. Searle & Company, yang bergerak dalam mengembangkan obat-obatan seperti Paracetamol dan Aspirin. Ketika Rumsfeld menjabat sebagai CEO G. D. Searle, Rumsfeld juga melanjutkan pengembangan produk aspartame atau pemanis artificial yang sudah digagas sejak tahun 1965 dan dilanjutkan kembali di bawah kepemimpinan Rumsfeld. Produk Aspartame inilah yang nantinya dikembangkan sebagai apa yang dikenal hari ini sebagai “Gula Diet.” Salah satu produk Gula Diet G. D. Searle yang sangat terkenal adalah Nutra Sweet yang kini sudah berdiri dengan bendera sendiri dan tidak lagi di bawah G. D. Searle dan menjadi produk yang laris manis di pangsa pasar food and beverage.
Pada tahun 1981, Ronald Reagan naik menjadi Presiden Amerika Serikat setelah mengalahkan Jimmy Carter pada Pemilu Presiden tahun 1980. Ketika Reagan menjadi Presiden, Reagan menghadapi beberapa masalah baru pada pemerintahannya, salah satunya adalah krisis di beberapa negara Timur Tengah seperti di Lebannon. Pada tahun 1983 pasca serangan teroris yang meledakan Kedutaan Amerika Serikat di Ibu Kota Lebannon, Beirut dan juga Barak Militer yang menewaskan 307 orang termasuk 241 diantaranya adalah personil Militer Amerika Serikat, Reagan pun pada akhirnya menunjuk Rumsfeld sebagai Special Envoy for the Middle East atau utusan Presiden Amerika Serikat untuk urusan Timur Tengah. Pada tugasnya kali ini Rumsfeld bertugas sebagai perwakilan Amerika Serikat untuk beberapa negara di Timur Tengah dalam rangka memperbaiki situasi yang sedang tegang di wilayah tersebut.
Pada saat bertugas sebagai Special Envoy, Rumsfeld beberapa kali berkunjung ke negara di Timur Tengah terutama negara-negara yang sedang bergejolak seperti Lebannon, di mana Rumsfeld sempat bertemu dengan Presiden Lebannon Amine Gemayel ketika Rumsfeld berkunjung ke Beirut. Pada waktu itu Lebannon yang dulunya menjadi salah satu daerah touris favorite di Timur Tengah dan ibu kotanya, Beirut, juga mendapat julukan “Paris of the Middle East” telah berubah menjadi zona perang setelah perang saudara berkecamuk pada tahun 1975. Rumsfeld menegosiasikan dengan Presiden Gemayel mengenai bagaimana Lebannon untuk kedepannya agar perang saudara dapat diakhiri di sana, terutama akibat dari perang saudara ini banyak nyawa-nyawa orang-orang asing di sana juga terancam dan penculikan-penculikan terhadap warga asing yang ditenggarai oleh kelompok teroris di Lebannon pun terus terjadi.
Pada kesempatan lain ketika menjadi Special Envoy, Rumsfeld bahkan sempat bertemu dengan pemimpin Iraq Saddam Hussein ketika Rumsfeld mengunjungi Baghdad, Iraq dan juga tangan kanan Hussein yaitu Tariq Aziz yang pada waktu itu menjabat sebagai Deputy Perdana Menteri Iraq dan juga Menteri urusan luar negeri. Menurut penuturan Rumsfeld dalam buku autobiography-nya, “Known and Unknown: A Memoir”, ketika berkunjung ke Baghdad, Saddam Hussein sempat menunjukan suatu bangunan Gedung terbaru di Baghdad, Hussein pun berkata kepada Rumsfeld bahwa elevator di Gedung tersebut mungkin tidak akan bekerja jika bukan karena teknologi Amerika Serikat. Hubungan Iraq dan Amerika Serikat pada waktu itu memang belum setegang pasca invasi Iraq ke Kuwait tahun 1990 dan Iraq masih menjalin hubungan diplomatik yang bisa dibilang cukup baik dengan Amerika Serikat pada waktu itu.
Pada tahun 1988, Rumsfeld juga sempat mencoba peruntungannya pada Pemilu Presiden tahun 1988. Tetapi Rumsfeld memilih mundur sebelum Pemilihan dimulai dan terus bekerja pada sektor swasta dan juga bekerja part-time untuk pemerintahan, seperti pada tahun ketika Rumsfeld ditunjuk sebagai Ketua Komisi untuk menganalisa ancaman Missile Ballistic.
