Nabi Muhammad dan para pengikutnya atas perintah Allah bergegas meninggalkan kota Mekkah malam itu. Terlintas di benak beliau, bukanlah bagaimana nasib hidup selanjutnya, namun bagaimana nasib barang-barang titipan yang ada padanya. Maka ia menitipkan amanah ini kepada Ali bin Abi Thalib untuk menggantikannya malam itu dan pada esok harinya Ali diamanatkan untuk mengembalikan barang-barang itu.Â
Sebenarnya, malam itu ialah malam yang sangat menegangkan, karena rumah Rasulullah telah dikepung oleh seluruh perwakilan suku-suku Arab yang bersenjata. Rasulullah tetap dalam keadaan tenang dan meninggalkan rumahnya dan pergi ke gua Tsur.
Saat itu usia Nabi Muhammad memasuki 53 tahun. Tatkala beliau diusir secara paksa dari tempat kelahirannya, penduduk Madinah saat itu menyambutnya dengan baik dan dengan tangan terbuka.Â
Rasulullah tahu bahwasanya struktur dasar masyarakat Madinah tidak jauh berbeda dengan masyarakat Mekkah. Orang-orang Arab di kota tersebut memiliki kekurangan dalam bidang kepemimpinan. Hal ini dikarenakan setiap suku merasa lebih kuat dan memiliki power dari pada yang lain serta tidak mau mengakui dominasi suku lain. Maka dari itu, suku di Arab memiliki banyak pemimpin dan kepala suku.
Sebagai pendatang baru, Rasulullah mengadakan rekonsiliasi dengan semua pihak yang ada dan melakukan kesepakatan dengan penduduk Madinah serta orang-orang Yahudi yang telah lama berada di wilayah tersebut. Momen inilah yang menjadi kesepakatan pertama dan memiliki nilai historis yang sangat penting.
Kesepakatan pertama ini mereformasi secara revolutif mengenai konsep negara yang didasarkan pada keimanan. Satu negara merangkul masyarakat dari berbagai keyakinan dan agama namun memiliki loyalitas pada satu ikatan politik.Â
Sesama kaum Muslimin ialah saudara meskipun memiliki latar belakang yang berbeda namun hidup dalam satu lingkup kesamaan iman. Untuk orang-orang Yahudi di Madinah akan mendapat perlakuan yang sama, kebebasan beragama dijamin dan orang-orang Yahudi yang berasal dari Bani Auf dianggap bersaudara dengan kaum Muslimin.
Ditandatanganinya kesepakatan itu, Rasulullah menyatakan "Daging dan darah kalian adalah darah kami juga". Maka, di samping dokumen yang jelas dalam meletakkan aturan umum, Â kesepakatan diplomatik pertama yang ada di dalam Islam sangat perlu untuk dipelajari.
Piagam Madinah sebagai bentuk eksplisit tentang bagaimana format awal negara Islam. Kesepakatan itu juga menyatakan bahwa diplomasi Islam diberlakukan dengan berhasil.Â
Tercatat pula jika ada perselisihan, maka pihak-pihak yang bertikai harus mengembalikan semua persoalannya kepada Rasulullah. Hal ini dilakukan karena Rasulullah selalu mengedepankan musyawarah dalam pengambilan keputusan. Untuk konsep umat yang didasarkan atas dasar agama, Rasulullah sebagai kepala dan pemimpinya.Â
Nilai-nilai yang terkandung dalam piagam Madinah merupakan sebuah revolusi yang sangat besar pada saat itu. Gerakan penyatuan suku-suku di Arab pun dimulai sejak dikeluarkannya piagam Madinah dengan hasil yang dicapai sangat mengagumkan.