Abu Bakar meninggal pada tanggal 23 Agustus 634 M karena sakit.
- Kekhalifahan Umar bin Khattab -
Setelah Abu Bakar meninggal, Umar bin Khattab menjadi khalifah kedua. Umar memimpin selama sepuluh tahun, dari 634-644 M.
Umar yang masuk Islam pada usia 27 tahun sering mengikuti lomba pacuan kuda, sehingga beliau dijuluki "Singa Padang Pasir". Beliau juga jago gulat selama masa jahiliyahnya.
Umar mendapat gelar "al-Faruq" yang berarti pemisah antara yang hak (benar) dan yang batil (salah).
Kontribusi Umar bin Khattab pada masa kekhalifahannya:
- Mengkonsolidasi komunitas Muslim di Arab
- Mengubah masyarakat nomaden menjadi masyarakat yang disiplin dan patriotik
- Menghancurkan imperialisme Persia dan Bizantium
- Mengembangkan imperialisme yang kuat termasuk Persia, Irak, Kaldera, Suriah, dan Palestina
Umar meninggal karena dibunuh oleh seorang hamba Parsi yang bernama Abu Lu'lu'ah. Beliau ditikam sebanyak tiga kali saat sedang menjadi imam salat pada tanggal 25 Zulhijjah 23 H atau 3 November 644 H. Menyusul kematiannya, jabatan khalifah dipegang oleh Usman bin Affan.
- Kekhalifahan Usman bin Affan -
Usman bin Affan berkuasa selama 12 tahun, dari 644-656 M, dan merupakan khulafaur rasyidin dengan masa kekuasaan terlama. Pernikahannya berturut-turut dengan dua putri Muhammad dan Khadijah, yaitu Ruqayyah dan Ummu Kulsum, membuatnya menerima julukan "Dzun Nurrain" (pemilik dua cahaya).
Kontribusi Usman bin Affan pada masa kekhalifahannya:
- Memperluas Masjidil Haram di Makkah dan Masjid Nabawi di Madinah
- Mengumpulkan Alquran dalam satu mushaf
Usman bin Affan meninggal dunia pada 17 Juni 656 karena dibunuh oleh para pemberontak dari Madinah. Posisi khalifah sepeninggal beliau dipegang oleh Ali bin Abi Thalib, menantu Nabi Muhammad SAW, suami Fatimah az-Zahra.