Pada hari jum'at tanggal 17 Dzulhijjah 655 M, ketika Utsman sedang membaca Alqur'an beliau dibunuh oleh para pemberontak yang berhasil memasuki rumanya. Utsman akhirnya Wafat sebagai syahid karena pembunuhan tersebut. seluruh dunia Islam yang pada saat itu sudah luas sampai ke Persia dan Afrika Utara menjadi genting karena terbunuhnya Utsman. Dan pada waktu itu penduduk kota madinnah tidak memiliki pilihan lain dalam memilih khalifah, lalu diangkatla Ali bin Abi Thalib menjadi khalifah pengganti Utsman bin Affan. Namun Ali berusaha menolak tetapi Zubbair bin Awwan dan Thalah bin Ubaidillah memaksa Ali Untuk menerima pengangkatan tersebut.
Masa pemerintahan Ali bin Abi Thalib berlangsung dari 35-40H/ 656-661 M. dalam masa pemerintahannya Ali berhasil memecat beberapa gubernur yang melakukan korupsi. beliau merapihkan dan menyusun rahasian Negara, dokumen-dokumen khalifah untuk diamankan dan diselamatkan, serta mengatur polisi dalam menerapkan tugas mereka.Â
Ali juga mengambil kembali tanah-tanah yang selama itu telah dibagikan Utsman kepada sanak saudaranya. Dikarenakan Ali tidak menemukan siapa yang membunuh Utsman, selama pemerintahannya Ali banyak mengalami masalah-masalah dan anggapan-anggapan yang kurang baik. Dan pada tanggal 17 Ramadhan 40 H/660 M. Ali bin abi Thalib terbunuh ketika hendak berangkat shalat shubuh. Â
