Meninggalnya Nabi Muhammad SAW, menimbulkan kevakuman pemimpin yang hampir tidak mungkin digantikan oleh orang lain. Ia bukan hanya seorang pemimpin negara, tetapi juga seorang nabi, pembuat undang-undang, guru spiritual, dan pribadi yang mempunyai visi trasendental.
Sangat sulit mengganntikan Muhammad dalam kualitas-kualitas tersebut. Nabi Muhammad SAW tidak meninggalkan wasiat tentang siapa yang akan menggantikan beliau sebagai pemimpin politik umat islam setelah beliau wafat. Beliau nampaknya menyerahkan persoalan tersebut kepada kaum muslimin sendiri untuk menentukannya.
Karena itulah, tidak lama setelah beliau wafat, belum lagi jenazahnya dimakamkan, sejumlah tokoh Muhajirin dan Anshar berkumpul di balai kota Bani Sa'idah, Madinah. Mereka memusyawarahkan siapa yang akan dipilih menjadi pemimpin. Musyawarah itu berjalan cukup alot karena masing-masing pihak, baik Muhajirin maupun Anshar, sama-sama merasa berhak menjadi pemimpin umat Islam.
1.Khalifah Abu Bakar Ash Shiddiq : Politik Konsolidasi
Pengangkatan Abu Bakar sebagai Khalifah, pada satu sisi memberikan keuntungan tersendiri bagi berlanjutnya pemerintahan negara Madinah. Namun pada sisi lain munculnya penolakan orang-orang Arab, terutama orang-orang yang baru masuk Islam.
Penantangan terhadap nagara Madinah yang dilakukan oleh suku-suku Arab merupakan sebuah realitas bangsa Arab yang sangat sulit menerima kebenaran, sangat sulit untuk tunduk pada ajaran yang baru, yang tidak umum berkembang pada lingkungan mereka.
Melihat kondisi bangsa Arab dalam wilayah kekuasaan Islam yang menolak terhadap kekhalifaan Abu Bakar, bahkan penolakan terhadap Islam, maka orientasi politik yang dijalankannya pertama kali adalah melakukan konsolidasi, mempersatukan masyarakat Arab dalam kekuasaannya, dan dalam keagamaan Islam, serta tetap dalam menjalankan ajaran agama Islam. Namun, jika mereka menolak, baru dilakukan peperangan.
2.Khalifah Umar ibn Al Khattab : Politik Ekspansi
Umar ibn Khattab menjabat sebagai khalifah selama 10 tahun, dari tahun 13-23 H. Dalam masa pemerintahannya, Umar melakukan beberapa langkah politik. Salah satu langkah politik ekspanasi merupakan langkah yang paling populer selama pemerintahan Umar. Langkah ini harus dilakukan, karena pasukan Islam sudah menyebar ke beberapa wilayah yang dikirim oleh pemerintahan Abu Bakar. Umar sangat tahu sekali kondisi psikologi pasukan Islam, yang punya semangat dakwah yang sangat tinggi untuk menyerukan ajaran-ajaran agama Islam ke seluruh penjuru dunia.
3.Khalifah Utsman ibn Affan : Politik Sentralistik dan Nepotisme
Kebijakan politik yang dilakukan Utsman adalah melanjutkan ekspansi yang dilakukan Umar ke berbagai wilayah. Langkah politis Utsman yang lain adalah menyempurnakan pembagian kekuasaan pemerintah dengan menekankan sistem pemerintahan terpusat (sentralisasi) dari seluruh pendapatan provinsi, dan menetapkan juru hitung safawi. Langkah ini merupakan langkah yang strategis menata administrasi kenegaraan.