Pada saat Nabi Muhammad sakit dan menjelang wafatnya Nabi Muhammad, Abu Bakar sering menggantikan Nabi Muhammad Saw. menjadi Imam Shalat. Dan pada saat itu kaum anshar mengadakan musyawarah untuk memilih pengganti Rasulullah setelah wafat di saqifah bani sa'ad, dan pada saat itu mereka bersepakat terhadap Abu Bakar yang akan menjadi khalifah atau pengganti Rasulullah Saw, semua sahabat membaiat Abu Bakar akan tetapi sahabat Ali bin Abi Thalib tidak ikut hadir karena sibuk dalam mengurus jenazah Rasulullah Saw , dan saat itu  kepemimpinan islam diberika kepada sahabat Abu Bakar dan beliau berhasil memimpin islam selama 2 tahun.
2. Umar Bin Khattab
Umar bin khattab memiliki nama asli yaitu Umar bin khattab bin naufal bin abdi 'uzza bin riba'ah bin Abdullah bin qarh bin rozaah bin a'diy bin ka'ab . dan ayahnya bernama khattab bin nufail al shimh al quraisyi dan ibunya bernama hantamah binti hasyim. Beliau lahir pada tahun 581 masehi di kota makkah dari suku bani adi , salah satu rumpun suku Quraisy, yang merupakan suku terbesaar di kota makkah pada saat itu.
Umar lahir dari keluarga bangsawan serta dianugerahi beberapa kelebihan diantaranya yaitu umar pandai membaca dan menulis serta memiliki karakter tegas dan pemberani serta keras sehingga sering menyelesaikan masalah yang terjadi pada zaman jahiliah dulu, dari hal ini yang membuat umar sangat dihormati dan disegani oleh penduduk di kota makkah.
Akan tetapi, dibalik kelebihanya yang sangat istimewa ini, Umar Bin Khattab juga peernah melakukan adat istiadat yang dilakukan pada saat zaman jahiliyah dulu, seperti mengubur putrinya hidup-hidup, meminum khamr bahkan sangat memusuhi islam dan membencinya.
Peristiwa masuknya Umar Bin Khattab kepada agama islam sangatlah istimewa dan bisa dikata tidak masuk akal, pasalnya pada saat itu Umar bin khattab yang sedang berjalan mencari Rasulullah dengan maksud untuk membunuhnya, akan tetapi dalam tengah perjalanan ia mendapati kabar bahwa adiknya telah masuk islam yang bernama Fatimah, dan pada saat itu Umar pun marah mendapati akan kabar tersebut, dan pergi pulang ke rumah untuk membuktikan akan kabar tersebut. Namun keika dia sampai di rumah , ia mendengar bahwa adiknya sedang membacakan surat dari alah satu surat Al Qur'an, dan seketika itu Umar meminta agar adiknya memberikan lembaran itu kepadanya, akhirnya Fatimah memberikan lembaran tersebut kepada Umar dengan catatan setelah ia mandi, dan benar, setelah Umar mandi , Fatimah memberikan lembaran tersebut kepada Umar dan umar membacanya, dan pada saat itu juga hati umar langsung bergetar ketika beliau melantunkan ayat dari awal surat Thaha.
Dan setelah itu, sahabat Umar langsung menuju kepada Rumah Rasulullah dan beliau menyatakan keislamanya kepada seluruh kaum di kota makkah pada saat itu yang sedang berada di kediaman Rasulullah, seketika itu juga bergemalah suara takbir dari para sahabat nabi yang melihat serta menyaksikan akan hal tersebut. Setelah masuk islam , atas izin Allah , sikap umar berubah  yang mulanya keras dan sangat membenci islam serta Rasulullah, kini berubah menjadi rasa cinta yang tinggi akan Rasulullah dan agama islam, akan tetapi sikap tegas dan kerasnya Umar ditunjukkan ketika berhadapan dengan kaum kafir Quraish, elain itu mar juga berubah menjadi sahabat yang amat mencitai Rasulullah dengan menjadi pembela utama Rasulullah dari gangguan kafir Quraisy saat itu dan menjadi pembela umat islam di kota makkah, sehingga menjadikan umat islam semakin kuat di tanah makkah tersebut.
Menurut salah satu riwayat, Umar Bin Khattab masuk islam setelah masuk islmanya 40 laki-laki dan 11 perempuan atau orang ke 52 yang masuk islam , namun ada pula pendapat yang mengatakan bahwa umar adalah orang yang ke 40 masuk islam.
Rasulullah memiliki gelar Al Faruq yang memiliki julukan sang pembeda, hal ini bukan karena tanpa alasan, sebab umar memiliki pemikiran yang kritis dan memiliki kebijakan terhadap Rasulullah lebih-lebih jika perkaranya merugikan umat islam, selain memiliki watak yang kritis tegas dank eras, akan tetapi umar juga memiliki sikap yang lembut selebihnya ketika beliau mendengar lantunan ayat-ayat suci Al Quran, beliau akan menangis ketika mendengarnya dan akan luluh hatinya, terbukti saat meninggalnya Rasulullah, Umar bersikeras bagi siapapun yang mengatakan Rasulullah Wafat maka ia tidak akan segan-segan mengacungkan pedangnya sebab umar bependapat bahwa rasulullah belum wafat hanya terpiah ruh dan jasadnya saja dan sewaktu waktu akan kembali lagi, akan tetapi dia luluh saat sahabat Abu Bakar membacakan sepotong ayat dari surat Ali Imran ayat 144, seketik aitu umar menangis dan sangat sedih atas kepergian Rasulullah.
Umar Bin Khattab meninggal pada tanggal 25 Dhulhijjah 23 H/266 M . beliau ditusuk dengan menggunakan pisau oleh Abu Lu'luah saat sedang melaksanakan shalat. Setelah wafat, jabatan khalifah dipegang oleh sahabat Utsman.
3. Utsman Bin Affan
