Dari jawaban Ali ini menunjukkan, bahwa pada dasarnya Beliau bukanlah orang ambisi jabatan. Ali sangat butuh pertimbangan dari tiga orang tersebut, karena mereka orang-orang berjasa dalam perang Badar di samping orang-orang yang dibentuk oleh Umar dalam memilih Usman sebagai khalifah. Â
Awalnya, sahabat-sahabat Zubair dan Thalhah menolak keras pengangkatan Ali sebagai khalifah. Namun, akhirnya, mereka merasa terpaksa untuk memberikan bai'at kepada Ali. Setelah memberikan bai'at, keduanya kemudian mengemukakan syarat tertentu, yang melibatkan tuntutan untuk menegakkan keadilan terkait kasus pembunuhan Utsman. Karena Ali belum memenuhi tuntutan mereka, akhirnya keduanya mencabut bai'at mereka. Ada juga pendapat yang menyatakan bahwa alasan pencabutan bai'at mereka mungkin terkait dengan tidak terpenuhinya harapan mereka untuk mendapatkan jabatan gubernur.
Kepemerintahan Ali menghadirkan berbagai keputusan politik yang mencakup:
1) Menerapkan regulasi finansial yang dianggap nepotisme secara berlebihan dan mengontrol mayoritas sektor bisnis.
2) Memberhentikan Gubernur yang sebelumnya ditunjuk oleh Utsman bin Affan dan menggantikannya dengan Gubernur yang baru.
3) Mengambil kembali tanah negara yang sebelumnya diberikan oleh Utsman bin Affan kepada keluarganya, termasuk hadiah dan alokasi tanpa alasan yang jelas, dan mengembalikan aset-aset ini ke baitul maal, yaitu kas umum negara.
Masa pemerintahan Ali yang kurang lebih selama lima tahun (35-40 H/656-661 M), sementara  dikutip  dari  buku  Teguh  Pramono  (100  Muslim  Paling  Berpengaruh)  tertulis empat  tahun  sembilan  bulan. Pada periode tersebut terasa begitu diwarnai oleh pergolakan politik yang tak pernah berhenti. Ali hampir selalu harus berurusan dengan pemberontakan yang muncul di berbagai wilayah kekuasaannya. Ali lebih sering ditemukan di medan perang, memimpin pasukan yang masih setia kepadanya, daripada fokus pada administrasi pemerintahan yang tertib atau ekspansi wilayah. Meskipun begitu, Ali berupaya keras untuk menciptakan pemerintahan yang transparan, berwibawa, dan merata. Ia berambisi untuk mengembalikan citra pemerintahan Islam sebagaimana yang pernah ada pada masa Abu Bakar dan Umar.
Pemberontakan Terhadap Ali Bin Abi Thalib  dan Permulaan Konflik
Buntut panjang kebijakan-kebijakan yang diambil pemerintahan Ali kemudian melahirkan pemberontakan terhadap kelangsungan pemerintahannya. Mulai dari pemecatan pejabat-pejabat yang diangkat Utsman, hingga pada penarikan kembali tanah-tanah negara yang dibagikan Utsman semasa hidup kepada anggota keluarganya. Pengambilan kebijakan ekstrim oleh sahabat Ali sempat mendapat teguran dari sahabat Mughirah dan Ibnu Abbas. Mereka menyarankan Ali terlebih dahulu mendapat pengakuan dari masyarakat di negeri-negeri taklukan Islam yang jauh.Â
Ali memang tidak diragukan lagi yang mempunyai integritas tinggi dan kapasitas intelektual yang memadai, namun demikian politik bukanlah keahliannya, sehingga sebagai lawanannya Muawiyah sebagai seorang politisi murni yang juga sebagai gubenur Syiria memang sangat berambisi menjadi khalifah dan sebagai politisi ia dapat mencari cara apa saja untuk menduduki khalifah. Ali tahu bahwa Mu'awiyah sangat ambisius dan terlebih lagi pernah diangkat oleh pendahulunya yang mana kebijakan-kebijakan yang ditempuhnya sering berbeda dengan Ali.
Kondisi masyarakat yang sudah terjerumus pada kekacauan dan tidak terkendali lagi, menjadikan usaha Khalifah Ali bin Abi  Thalib tidak banyak berhasil. Terhadap berbagai tindakan Ali setelah menjadi khalifah, para sahabat senior sebenarnya pernah memberikan masukan dan pandangan kepada Ali.  Marshall GS. Hudgson memaparkan: Setelah itu dua belas tahun setelah wafatnya Muhammad, mulailah suatu periode fitnah  (yang berlangsung selama lima tahun). Yang makna harfiahnya godaan atau cobaan-cobaan,  suatu  masa  perang  saudara  untuk  menguasai  komunitas  muslim  dan teritori-teritori taklukannya yang luas.
Perang Jamal/OntaÂ