Utsman merupakan salah satu kandidat di antara 6 orang yang dipilih oleh Umar sebagai penggantinya. Ia terpilih menjadi khalifah karena hasil dari musyawarah yang dilakukan oleh tim/panitia yang dibentuk Umar (Dewan Syura': Utsman, Ali, Thalhah, Abdurrahman bin `Auf, Zubair, dan Sa`ad bin Abi Waqqash). Utsman dipilih dan dibaiat oleh Abdurrahman ibn Auf, kemudian disusul dengan Ali ibn Abi Thalib yang disaksikan seluruh kaum muslimin yang ada di sana.
Ali menjadi khalifah ke-4 sebagai pengganti Utsman yang telah wafat karena dibunuh oleh pemberontakan. Ia terpilih karena hasil keputusan siding yag dilakukan oleh dewan formatur. Awalnya Ali tidak mau/menolak atas keputusan itu, tetapi Ia jadi mengambil jabatan tersebut karena hasil bujukan (dibaiat secara missal/paksaan oleh Zubair dan Thalhah) dan disaksikan Veteran Perang Badar dan penduduk Madinah.Â
Ali merupakan sahabat Nabi yang sangat pemberani. Ia mengikuti seluruh perang Sabil keciali perang Tabuk karena ia sedang berada di Maadinah. Pada masa pemerintahan Ali, Ali memberhentikan semua gubernur yang diangkat Utsman salah satunya Muawiyah, dan mengangkat beberapa pejabat baru. Pengawasan pada pemerintahan ini sangat ketat agar tidak adanya lagi penyelewengan dari para pejabatnya. Pada masa pemerintahan ini, Ali berhasil memperluas wilayah kekuasaannya dan mendirikan pemukiman militer di perbatasan Syria serta membuat benteng udara di perbatasan Parsia.
Pada tahun 661M, ba'da shalat subuh, Ada seseorang bernama Abdurrahman bin Muljam membunuh Ali. Ia merupakan orang yang diduga kuat membunuh Ali karema ia adalah salah seorang dari kelompok Khawarij yang memang membenci Ali semenjak dari peristiwa tahkim.Â
D. Pembentukan Masyarakat Madinah
Dahulu, masyarakat Madinah terdiri dari 2 suku besar; Suku Aus dan Khazraj, serta suku-suku bangsa Yahudi. Aus & Khazraj sama seperti masyarakat Makkah; menyembah berhala yang bernama berhala manata. Sedangkan bangsa Yahudi menganut agamanya sendiri. Setelah masyarakat Arab (Aus & Khazraj) mengetahui ajaran agama Yahudi tentang kelebihan menganut agamanya itu menjadi factor agama Islam lebih mudah diterima dan dianut para anggota suku tersebut after bertemu Rasulullah.
Selain 2 suku besar tersebut, ada suku/kabilah kecil yang bernama suku Judham dan Udhra menganut agama Masehi/Kristen. Masyarakat Madinah lebih cenderung dengan sifat majemuk. Dengan sifat kemajemukannya, inilah salah satu Rasulullah hijrah ke Madinah, juga tidak lain karena adanya factor atau pemanis, yaitu bai'at-bai'at (janji setia) yang sebenarnya hanya daerah yang tidak ada menariknya bagi penduduk/suku lain.
Di Yastrib, Rasulullah merasa gembira karena suasana di sana sangat kondusif. Hal ini disebabkan suku Aus dan Khazraj telah muallaf dan sanggup menerima Rasulullah serta dakwahnya. Terdapat tiga gelombang dari suku tersebut untuk memeluk agama Islam.
Gelombang I (10 kenabian); ketika beberapa dari 2 suku tersebut ke Makkah untuuk berziarah ke Baitullah. Kemudian mereka disambut oleh Rasulullah dan bertemu di Aqabah untuk bersyahadat (masuk islam).
Gelombang II (12 kenabian atau 621 M), 12 lki-laki dan 1 perempuan. Mereka bertemu dengan Nabi Muhammad dan membuat perjanjian Aqabah pertama.
Gelombang III (13 kenabian atau 622 M). Terdiri dari 73 penduduk Yastrib yang berkunjung ke Makkah dan bertemu Rasululllah agar hijrah ke Yastrib.
