Perlu diketahui bahwa sosial Islam dalam arti masyarakat Islam pada mulanya terdiri dari orang-orang arab saja, tetapi dengan tersiarnya Islam keluar Arab, orang-orang yang bukan Arab masuk Islam dengan menggabungkan diri dengan salah satu suku bangsa Arab disebut Mawali. Kaum mawali dalam hidupnya mempunyai kedudukan lebih rendah daripada orang Arab. Orang-orang Arab sebagai bangsa yang berkuasa pada waktu itu dianggap oleh masyarakat mempunyai kedudukan lebih tinggi.Â
Karena dipandang dan dianggap mempunyai kedudukan yang lebih tinggi, maka agama dan kebudayaan Arab (Islam) dipandang lebih tinggi pula. Tidak mengherankan apabila bangsa-bangsa yang berada dibawah kekuasaan Islam pada waktu itu banyak berusaha meniru orang Arab dalam bahasa, pakaian dan adat istiadat. Bahkan banyak pula yang meninggalkan agama aslinya untuk kemudian memeluk agama Islam.
Kedudukan kaum Mawali yang lebih rendah di Persia itu pada akhirnya membentuk gerakan Syu'ubiah, yaitu gerakan yang menyerupai gerakan nasionalisme dalam arti modern. Dengan gerakan Syu'ubiah tersebut, orang-orang Persia ingin menonjolkan kebudayaan Arab dalam masyarakat Islam yang ada pada waktu itu.
Menurut sejarah bangsa Persia berhasil dalam usaha mereka yang akhirnya bahasa dan kebudayaan Persia menjadi bahasa dan kebudayaan yang diakui dalam Islam. Disamping orang-orang Islam baik yang terdiri dari orang Arab maupun bukan Arab, terdapat pula orang-orang bukan Islam yang memeluk agama lain, terutama agama Kristen dan Yahudi. Orang-orang ini disebut ahl-al-zimmah. Mereka adalah pemeluk-pemeluk agama lain, yang memilih tetap tinggal dibawah naungan Islam dengan membayar jizyah yang dapat diartikan pajak naungan.
Perkembangan selanjutnya bahwa masyarakat Islam berfokus pada manusia sebagai Khalifah Tuhan di muka bumi dimana masyarakat memikul tanggung jawab Khilafah sebagai satu keseluruhan dan masing-masing anggotanya mengambil bagian di dalam Khilafah Ketuhanan. Setiap orang dalam masyarakat Islam menikmati hak-hak dan kekuasaan dan perwakilan ketuhanan itu dan dalam hal ini semua manusia adalah sama. Tidak ada seorangpun melebihi yang lainnya atau dapat melucuti orang lain dari hak-hak dan kekuasaan-kekuasaannya.
Dasar-dasar sistem sosial Islam terletak atas kepercayaan bahwa semua makhluk manusia adalah sama dan merupakan Ukhuwah (Persaudaraan) tunggal. Allah telah menciptakan seorang manusia pertanda permulaan dari kehidupan di bumi dan semua makhluk manusia hidup di bumi ini sekarang adalah berasal dari pasangan tersebut. Beberapa waktu lamanya dalam babak-babak permulaan keturunan dan pasangan ini merupakan satu golongan tunggal yang mempunyai satu agama dan berbicara dengan satu bahasa dan tiada perbedaan dikalangan mereka.
Tetapi karena jumlah mereka lambat laun semakin bertambah maka mereka pun meluas dan bertebaran ke segala penjuru bumi. Sebagai akibat alamiah dari pelebaran dan pertumbuhan mereka itu, maka mereka terpecah-pecah dalam berbagai suku, kabilah dan bangsa. Bahasa mereka menjadi berlainan, cara-cara berpakaian mereka berbeda dan cara hidup mereka berlainan satu sama lain. Iklim dan lingkungan dari berbagai tempat telah merubah warna kulit mereka dan bentuk-bentuk tubuh mereka. Semua perbedaan ini adalah variasi alam belaka. Mereka tetap berada dalam dunia realitas. Maka dari pada itu Islam mengakui mereka sebagai satu kenyataan, sebagai satu realitas.
Islam tidak bermaksud menghapuskan atau mengabaikan mereka, bahkan sebaliknya, Islam hendak mewujudkan dan menegaskan kepada mereka bahwa ditengah-tengah segala perbedaan mereka itu hanya ada satu jalan yang mungkin ditempuh untuk kebahagiaan mereka. Islam menganggap semua perbedaan karena kelahiran, kedudukan, jabatan, tinggi rendahnya kelas, bumi putera asli dan orang asing sebagai manifestasi dari kajahilan semata. Islam mengumumkan kepada semua manusia didunia bahwa mereka adalah keturunan dari pasangan orang tua yang sama dan karena itu mereka adalah bersaudara dan sama dalam status mereka sebagai makhluk manusia.
Setelah mengemukakan konsep persaudaraan dan persamaan manusia Islam menambahkan lagi bahwa jika sekiranya ada sesuatu perbedaan sesungguhnya antara manusia dengan manusia tidak terletak pada suku, ras, negeri, bangsa dan bahasa, melainkan pada cita-cita, kepercayaan-kepercayaan dan prinsip-prinsip.
Dua orang anak dari ibu yang sama, walaupun mungkin mereka dari satu keturunan yang sama pula, pasti akan menempuh jalan hidup yang berlain-lainan di dunia ini jika kepercayaan-kepercayaan dan tingkah laku (Moral) mereka berlainan satu sama lain. Sebaliknya dua manusia, seorang dari Timur yang lain dari barat, walaupun secara lahiriah dan geografis terpisah sangat jauh satu sama lain, namun mereka akan menempuh jalan hidup yang sama jika mereka mempunyai persamaan dalam cita-cita dan tingkah laku. Atas dasar ini maka Islam bertujuan hendak membina satu masyarakat yang seiman dan secita-cita.
Dasar usaha bersama diantara manusia dalam masyarakat yang bukan didasarkan atas kelahiran, tetapi satu kepercayaan, satu iman dan satu prinsip moral. Siapa saja asal ia percaya pada Allah sebagai Rabb Al Alamin, sebagai Tuhan Pencipta Sekalian Alam dan menerima pimpinan dan bimbingan Rasulullah saw, ia termasuk masyarakat ini, tidak peduli apakah penduduk Asia, Afrika, Amerika, Australia atau Eropa, apakah ia termasuk ras Semit atau Aria, berkulit hitam atau putih dan berbicara bahasa Indonesia, Pakistan, Jerman, Inggris, Arab dan lain sebagainya.
Mereka yang termasuk masyarakat ini, mempunyai hak-hak dan kedudukan sosial yang sama. Mereka tidak akan dikenakan perbedaan rasial, nasional atau kelas apapun. Tidak seorangpun akan dianggap tinggi atau rendah. Tidak akan ada Paria dikalangan mereka. Hubungan-hubungan perkawinan tidak dipengaruhi oleh perbedaan suku, kabilah, bangsa atau warna kulit, begitu juga halnya dengan hubungan-hubungan sosial lainnya. Tidak seorangpun akan dapat menuntut hak-hak istimewa berdasar kasta, kedudukan dan keturunannya. Jasa-jasa seseorang tidak tergantung pada koneksi atau kekayaan, tetapi tergantung pada kebaikan tingkah laku, kesolehan dan kejujuran. Demikian pula halnya, jika dua golongan manusia yang hidup dalam satu negara, berbeda-beda dalam kepercayaan-kepercayaannya, prinsip-prinsip dan Ideologi-ideologi mereka maka orde sosial mereka pasti pula akan berbeda satu sama lainnya, walaupun mereka akan terus menyertai ikatan-ikatan bersama dan umat manusia. Maka dari itu masyarakat Islam menunjukkan kepada masyarakat dan golongan yang bukan Islam hak-hak sosial dan kebudayaan semaksimal mungkin dapat diberikan berdasarkan ikatan-ikatan bersama dari umat manusia.