Nabi Muhammad Hijrah pertama kali ke Madinah di usianya yang ke lima puluh tiga tahun. Kedatangan Rasulullah disambut hangat dan dengan tangan terbuka oleh para penduduk Madinah. Beliau melihat bahwa struktur masyarakat Madinah tidak berbeda dengan masyarakat Mekkah, yaitu sama-sama memiliki kekurangan dalam bidang kepemimpinan.
Hal tersebut disebabkan oleh rasa bangga dan sombong, serta ambisi permusuhan untuk mendapatkan supremasi kekuasaan. Merasa menjadi suku yang paling baik diatas suku yang lain. Sehingga, terdapat banyak pimpinan dan kepala suku yang tersebar di Madinah.
Oleh karena itu, Rasulullah sebagai pendatang baru harus melakukan rekonsiliasi dengan semua pihak, jika ingin menjadikan tempat pengungsiannya  sebagai sebuah pusat yang efektif dan aman untuk melancarkan gerakannya. Langkah pertama yang dilakukan Rasulullah adalah menjalin kesepakatan dengan penduduk Madinah dan orang-orang yahudi yang mendiami Madinah.
Kesepakatan tersebut merupakan kesepakatan pertama yang disepakati oleh Rasullulah. Bukan hanya itu, kesepakatan tersebut juga merupakan dokumen yang telah mereformasi secara revolutif sebuah konsep negara yang didasarkan oleh keimanan.
Sebuah Negara yang mencakup masyarakat dari berbagai keyakinan dan agama, namun memiliki loyalitas pada ikatan politik yang satu. Kaum Muslimin yang berasal dari Makkah merupakan saudara Muslim yang di Madinah. Persabatan dan permusuhan tidak didasarkan pada ikatan darah, ekonomi, suku atau keluarga, melainkan kepada ikatan ideologi.
Semua masyarakat di Madinah mendapat perlakuan yang sama, termasuk kaum Yahudi. Mereka diberi kebebasan untuk menentukan agama apa yang akan dianutnya. Kesepakatan penting ini disebut dengan Konstitusi Madinah, Madinah Charter, atau Piagam Madinah.
Piagam Madinah ini menjelaskan dengan sejelas-jelasnya dan eksplisit ide-ide tentang format awal negara Islam. Jika terjadi suatu perselisihan, maka akan dikembalikan urusan tersebut pada Rasulullah. Bukan untuk memperluas kekuasaan Rasulullah, melainkan Rasulullah merupakan Hakim yang Adil.
Beliau selalu mengedepankan musyawarah dan meminta pendapat dari para sahabat untuk masalah yang dibicarakan. Setelah semua sahabat yakin, barulah Rasulullah memutuskan. Mekanisme yang diajarkan oleh Rasulullah ini berlaku untuk segala kondisi, damai maupun perang.
Sebelum Islam datang, Patriotisme suku ini bukan untuk tanah air maupun teritorial, malainkan hanya berdasarkan kesukuan (tribal). Moralitas kesukuan hanya untuk melahirkan peperangan dan saling membunuh. Motto kesukuan itu, menyerang musuh, jika tidak ada musuh maka keluargapun juga akan diserang.
Setelah datangnya Islam, konsep umat didasarkan atas dasar agama, dan Rasulullah sebagai pemimpinnya. Dalam Islam, dibolehkan untuk melakukan pernikahan beda suku, tapi tidak untuk beda keyakinan atau beda agama.Â
Kesepakatan ini telah meruntuhkan aliansi teritorial dan tribal (kesukuan). Dalam islam, tidak boleh ada dua kelompok dalam sebuah komunitas yang diperkenankan untuk membangun suatu hubungan yang istimewa, sehingga menimbulkan kecemburuan sosial bahwa hak perlindungan yang diberikan tidak merata.
