Umar bin Khattab menggantikan Abu Bakar dengan sejumlah prestasinya yang gemilang usaha-usaha yang telah dimulai Abu Bakar dilanjutkan oleh Umar. Di zamannya gelombang pembebasan pertama terjadi di kota Damaskus, ibu kota Syam jatuh pada tahun 635M dan setahun kemudian setelah tentara Byzantium kalah dipertempuran Yarmurk, daerah Syam juga jatuh ketangan islam. prestasi Umar amat gemilang bukan hanya dalam hal pembebasan wilayah baru kepangkuan islam, melainkan juga dalam aspek-aspek lain. Umar berjasa dalam menyusun dewan-dewan pemerintahan mendirikan baitulmal, membuat mata uang emas, membentuk korps tentara untuk menjaga tapal batas. mengatur gaji mengangkat hakim-hakim, mengatur pos, menciptakan tahun hijrah dan mengontrol hisbah.
Gaya hidup Umar terkenal sederhana, dalam memimpin khalifah pun terkenal merakyat. Ia sering melakukan inspeksi mendadak keaerah-daerah perkampungan untuk melihat dari dekat rakyat yang dipimpinnya. Ia juga tegas, adil dan tidak pandang bulu untuk menegakkan hukum, begitulah cara berdiplomasi di massa Umar. Keadilan itu juga dapat dirasakan ketika Umar pernah tidak mempraktikkan hukum potong tangan bagi pencuri alasannya situasi sedang musim paceklik. Pencuri itu dibebaskan dari potong tangan didorong oleh kebutuhan membela diri dari kelaparan. Ia juga pernah tidak membagikan zakat kepada mustahik yang disibut dalam surat At-Taubah ayat 60 yaitu kaum mualaf. Umar berpendapat pada waktu nabi masih hidup orang-orang mualaf diberikan zakat dengan tujuan untuk memperkuat islam. Namun keadaan sudah berubah dengan kuat nya islam, dengan demikian bagian itu tidak valid lagi.
Umar juga sangat tegas dalam menagani orang-orang yang mengganggu umat islam. Seperti orang-orang Yahudi dan Nashrani yang telah membantu dan bersekongkol melakukan pemurtadan pada zaman pemerintahan Abu Bakar. Dengan perhatiannya yang penuh terhadap minoritas, dia sadar akan bahaya yang ditanamkan oleh kelompok minoritas yang jumlahnya sekitar seperlima dari jumlah seluruh penduduk Muslim Madinah. Orang Yahudi Khaibar ditaklukkan di zaman Rasulullah masih hidup, telah diperingatkan bahwa sewaktu-waktu mau tak mau mereka harus diusir jika memang hal itu diperlukan. Peringatan ini tidak berdampak banyak, buktinya masih saja mereka melakukan subversi, intimidasi dan oposisi terhadap negara. Dan Umar bukan model orang yang bimbang dan ragu untuk mengambil tindakan. Dia menghitung semua kejahatan dan kriminal yang dilakukan oleh orang Yahudi di depan publik dan memerintahkan kepada mereka untuk mengusir kaum Yahudi itu dari tanah Arab karena telah melakukan pelanggaran terhadap berbagai kesepakatan dan telah melakukan aktivitas anti-pemerintah dalam jangka waktu sekian lama.