Konsep kekuasaan Khalifah dalam Islam bukanlah kekuasaan mutlak. Seorang Khalifah dalam menjalankan kekuasaannya terbatasi oleh hukum Ilahiah dan sosial kemasyarakatan (al-Mauduni, 1995:243) dan dalam membatasi kekuasaan Khalifah makan dibentuklah dewan syuro yang terdiri dari ahlul halli wal 'aqdi  (semacam DPR-MPR) yang bertugas mengangkat dan memberhentikan Khalifah serta menetapkan hukum yang tidak ada nasnya secara jelas dalam Al-Qur'an dan Sunnah.
Mengenai konsep negara Islam yang menjalankan roda pemerintahannya sendiri-sendiri. Jika dilihat dari hukum asalnya, diwajibkan adanya pimpinan pemerintahan yang satu di seluruh negeri Islam. Kata al-Mawardi dalam kitab Al-Ahkamus Sultaniyah, "Apabila terdapat dua iman di dua negeri Islam, pimpinan keduanya tidak sah, sebab pada umat Islam tidak boleh ada dua Khalifah."
Namun dalam perjalanan sejarah, dapat kita temukan ada lebih dari dua kekuasaan Islam yang berdasarkan pimpinan Ilahi. Meskipun berdiri sendiri, hukum dan pekerjaan keduanya sah, diakui dan ditaati oleh kaum muslim. Apa sebabnya kekuasaan tersebut dianggap sah dan ditaati oleh kaum muslim? Menurut paham yang dekat dapat diambil dari makna ulil amri yang tersebut dalam surat An-Nisa' ayat 59. Dalam kitab Ahkamul Qur'an karya Ibnu Al-Arabi Al-Andalusia, sesudah beliau menerangkan beberapa pendapat ahli tafsir tentang arti ulil amri. Beliau berkata, "Yang lebih sesuai, bahwa yang dimaksud dengan ulil amri yang tersebut dalam ayat ialah wakil negeri dan ulama, maka perintah dan fatwa mereka wajib ditaati dan dijalankan oleh umat selama tidak bertentangan dengan nas Al-Qur'an dan hadits."
Demikianlah beberapa pendapat, dan disamping pendapat-pendapat tersebut mereka sepakat pula dalam dua garis besar yang perlu menjadi perhatian kita bersama, yaitu :
1. Fardu Kifayah atas kaum muslim sedunia berusaha mencari jalan untuk menyatukan pimpinan. Kewajiban ini tetap sehingga tercapai yang dimaksud.
2. Antara negara-negara Islam tadi tidak boleh saling bermusuhan, tetapi wajib saling membantu satu sama lain, terutama untuk menghadapi orang-orang atau bangsa-bangsa yang melakukan permusuhan terhadap agama Islam.
Demikianlah uraian penulis tentang konsep ketatanegaraan dalam Islam. Akhir kata, penulis berpendapat bahwa Khalifah adalah mandat dari rakyat untuk menegakkan hukum-hukum Allah di muka bumi.
