Pada saat Rasulullah hijrah ke Madinah langkah yang pertama dilakukan adalah mendirikan masjid, yakni Masjid Quba’.Masjid Quba’ ini merupakan masjid yang pertama kali didirikan oleh Rasulullah setelah berhijrah dari Makkah ke Madinah.
Masjid ini didirikan pada tahun 1 Hijriyah (622 M), kemudian disusul Masjid Nabawi. Masjid Nabawi ini adalah salah satu mesjid terpenting yang ada di kota Madinah dan sekaligus menjadi tempat makam Beliau dan para sahabatnya. kini Masjid Nabawi menjadi masjid terbesar kedua setelah Masjidil Haram di Makkah.
Masjid Nabawi dibangun oleh Nabi saat Beliau tiba di Madinah, yakni di saat kendaraan beliau dihentikan di halaman tersebut. Lokasi ini awalnya adalah tempat jemuran kurma milik 2 anak yatim yang bernama Sahal dan Suhail yang kemudian dibeli oleh Rasulullah. Masjid ini pada awal didirikan hanya berukuran 50 M x 50 M dengan tinggi atap 3,5 M yang dibangun oleh Rasul sendiri bersama sahabat-sahabatnya. Bangunan masjid awalnya ini temboknya terbuat dari batu bata tanah, sementara atapnya dari daun kurma dan tiangnya dari batang kurma, dan atapnya sebagian ada yang terbuka. Pada awal pembangunan masjid ini tanpa ada penerangan dan ini berlangsung selama 9 tahun. Kini masjid Nabawi menjadi masjid termegah karena sudah direnovasi beberapa kali.
Keberhasilan Dakwah Nabi Muhammad di Madinah
Setelah hijrah ke Madinah, perkembangan Islam di kota ini mengalami kemajuan Yang cukup pesat, bahkan menjadi pusat peradaban Islam terbesar hingga saat ini. Kesuksesan Dakwah Nabi Muhammad saw dalam mengembangkan Islam di Madinah bisa ditinjau dari aspek :
Terciptanya suasana damai antara suku Khazraj dan suku Aus. Sebelum Islam datang, suku Khazraj dan suku Aus selalu terjadi perselisihan dan bersitegang, bahkan tidak jarang terjadi pertumpahan darah. Hal ini di picu oleh adanya pihak ketiga, yakni Yahudi.
Kedatangan Rasulullah saw memberikan dampak yang sangat positif pada kedua suku tersebut. Kedua suku tersebut banyak yang memeluk agama Islam, sehingga semuanya telah terikat dengan tali keimanan. Walaupun tidak bisa menghilangkan sama sekali sisi fanatisme kesukuan, namun telah tertanam dalam jiwa mereka bahwa semua manusia dalam pandangan Allah adalah sama yang membedakan derajat manusia disisi Allah hanyalah ketakwaanya,. Dengan memeluk Islam ini, masyarakat Madinah menjadi tenang, damai dan memiliki aturan yang saling menguntungkan. Sebab Islam memberikan penerangan kepada masyarakat Madinah bahwa Islam adalah agama yang menentangkan diskriminasi, dan cinta perdamaian.
- Mempersatukan Sahabat Muhajirin dan Anshor
Nabi Muhammad senantiasa menganjurkan persaudaraan antara kedua sahabat, dan melarang semangat kesukuan, sehingga bersatu menjadi kokoh dan kuat. Dengan mempersatukan kedua sahabat atas dasar suatu agama, berarti merupakan satu kesatuan yang kokoh.
- Membentuk Kekuatan dan Politik IslamÂ
Nabi juga mempersatukan antara golongan Yahudi dan Bani Qoinuqo, Bani Nadhir dan Bani Quraidah. Terhadap golongan Yahudi, Nabi membentuk suatu perjanjian yang melindungi hak-hak azasi manusia, yang dikenal dengan Piagam Madinah.
- Membangun Masjid.
Setelah berada di Madinah, Nabi Muhammad membangun masjid yang sekarang terkenal dengan nama masjid Nabawi. Masjid ini dibangun atas tanah milik dua anak yatim yang sudah dibeli. Nabi ikut mengangkat batu-bangunan sendiri. Dalam waktu yang sangat singkat kurang lebih 23 tahun seluruh jazirah arab telah dikuasainya, hal ini menunjukan Kesuksesan Nabi Muhammad SAW di Madinah dalam dakwahnya.