Penegakan hukum di Timur Tengah sudah tersistem bahkan dari masa jahiliyyah, sebelum masa kenabian Rasulullah SAW. Pada masa Pra Islam ini, sudah terdapat suatu badan hukum yang berupa Lembaga kehakiman yang ditugas tersebut dipegang oleh Banu Saham yaitu satu golongan di antara golongan‐golongan Quraisy. Bila ada persengketaan pada orang-orang Quraisy mereka datang ke Mekah mengadukan perkaranya kepada Banu Saham. Di antara orang‐orang yang memegang peradilan di masa Jahiliyah ialah: Hasyim bin 'Abdu Manaf, Abu Lahab dan Aktsam ibn Shaifi. Selain itu, Masyarakat Jahiliyah terbiasa menyelesaikan kasus ataupun masalah mereka dengan mendatangi paranormal (Ihtikan), para dukun (Kahin) dan tukang ramal ('arraf) yang tergabung dalam badan hukum yaitu Badan Ihtikan dan Qur'ah (Paranormal dan Undian). Mereka diyakini masyarakat Arab waktu itu memiliki kelebihan pengetahuan prihal rahasia‐rahasia gaib. Selain itu mereka juga memutuskan perkara dengan qur'ah atau undian. Diantara dukun yang terkenal saat itu adalah Rabi' ibn Rabi’ah ibn al‐Dzi'ib.
Lalu, ada juga yang disebut dewan Mazhalim. Dewan Mazhalim. Mereka adalah para arbitrator yang dikenal bijak dalam menyelesaikan persengketaan. Dewan ini ditiru bangsa Arab dari bangsa Persia. Di antara tokoh sejarah Arab pra Islam yang dikenal sebagai arbitrator dalam dewan mazhalim adalah 'Abdul Muthalib, Zuhayr ibn Abu Salma, Aktsam ibn Sayfi, Hajib ibn Zirarah, Qus ibn Sa'idah al‐Iyadi, 'Amir ibn al‐Dharib al‐'Udwain serta Ummayah ibn Abu Salt. Dari kalangan perempuan terdapat juga nama 'Amrah binti Zurayb. Nabi Muhammad SAW sendiri sebelum masa kerasulannya pada zaman Jahiliyah pernah diminta untuk menjadi arbitrator oleh kaum quraisy ketika berselisih dalam menentukan siapa yang lebih berhak dalam meletakkan hajar aswad pada saat penyelesaian akhir pembangunan Ka'bah. Akan tetapi keberadaan dan keputusan para arbitrator masyarakat Arab pra Islam ini bersifat subjektif. Keputusannya pun tidak sepenuhnya mengikat karena mereka sendiri tidak mempunyai peraturan untuk mengeksekusi keputusan‐keputusan mereka. Orang yang bersengketa tidak diharuskan untuk datang kepada para arbitrator ketika menemui perselisihan, dan tidak pula harus tunduk menerima keputusan mereka.
Memasuki masa kerasulan Nabi Muhammad SAW, sistem peradilannya berlandaskan wahyu Allah SWT. Di Madinah, Rasulullah SAW menggabungkan kekuasaan legislatif, eksekutif dan yudikatif. Beliau sebagai hakim sekaligus sumber hukum. Beliaulah yang menjadi penegak dan pengambil keputusan hukum, sekaligus sumber hukum itu sendiri (setelah Al Quran) lewat hadits-hadits beliau. Adapun Jenis perkara yang diselesaikan Rasulullah meliputi segala jenis perkara, mulai perkara keluarga, perdata, pidana, hukum acara hingga masalah hukum internasional. Dalam kapasitas sebagai hakim, tidak jarang Rasulullah saw. melimpahkan wewenang kepada sahabat yang dipercayainya, seperti, Ali bin Abi Thalib, Hudzaifah Al Yamani, Uqbah bin Amr, Amr bin Ash, dan lain-lain.
Setelah wafatnya baginda nabi, kepemimpinan ummat Islam dipimpin oleh Khulafaur Rasyidin. Masa ini dipimpin oleh para sahabat yang direkomendasikan langsung oleh Rasulullah SAW. Ketetapan hukum pada masa ini sesuai dengan Al Quran dan hadits Nabi SAW, dan semua keputusan (termasuk peradilan) berada di tangan khalifah. Periode ini terdiri dari masa kekhalifahan Abu Bakr As Siddiq (11-13 H/632-634 M), Umar Ibn Al Khattab (13-23 H/634-644 M), Utsman ibn Affan (23-35 H/644-656 M), dan Ali bin Abi Thalib (35-40 H/656-661 M). Hukum yang berlandaskan Al Uqran dan As Sunnah tetap menjadi rujukan utama, namun para khalifah sudah mulai menggunakan metode Ijtihad dalam menetapkan hukum. Contohnya Ketika khalifah Umar RA tidak memotong tangan pencuri yang terbukti mencuri pada masa paceklik.
Setelah berakhirnya masa Khulafaur Rasyidin, Ummat Islam memasuki era dinasti-dinasti. Yang pertama adalah dinasti Umawiyyah. Di masa dinasti Umawiyyah, Khalifah mengangkat hakim-hakim (Qadhi). Para hakim ini tergabung dalam instansi bernama Nizham al-Qadha’i (organisasi kehakiman). Pada masa ini, kekuasaan pengadilan telah dipisahkan dari kekuasaan politik. Lembaga ini memiliki 2 ciri khas, yaitu Hakim memutuskan perkara menurut hasil ijtihadnya sendiri, dalam hal-hal yang tidak ada nash atau ijma’. Ketika itu mazhab belum lahir dan belum menjadi pengikat bagi keputusan-keputusan hakim. Ciri kedua adalah lembaga peradilan pada masa itu belum dipengaruhi oleh penguasa. Hakim memiliki hak otonom yang sempurna tidak dipengaruhi oleh keinginan-keinginan penguasa. Adapun instansi dan tugas kekuasaan kehakiman di masa dinasti Umawiyyah ini dapat dikategorikan menjadi tiga badan utama, yaitu:
- Al-Qadhaa’: bertugas menyelesaikan perkara-perkara yang berhubungan dengan agama. Di samping itu, badan ini juga mengatur institusi wakaf, harta anak yatim, dan orang yang cacat mental.
- Al-Hisbah: bertugas menyelesaikan perkara-perkara umum dan soal-soal pidana yang memerlukan tindakan cepat. Badan ini bertindak sebagai pengawas perdagangan dan pasar, memeriksa takaran dan timbangan serta ikut menangani kasus-kasus perjudian, tindakan asusila dan tindakan lain yang tidak layak di depan umum.
- Al-Nadhar Fi Al-Mazhalim: Merupakan mahkamah tinggi atau mahkamah banding dari mahkamah di bawahnya (al-qadha dan al-hisbah). Lembaga ini juga dapat mengadili para hakim dan pembesar negara yang berbuat salah. Proses persidangan dipimpin langsung oleh khalifah.
Setelah berakhirnya dinasti Umawiyyah, ummat Islam memasuki masa kerjaan yang dipimpin oleh seorang sultan. Dinasti yang terbesar saat itu adalah dinasti Abbasiyyah. Daulah Abbasiyyah berpusat di Baghdad, Irak. Daulah ini terbagi kedalam 4 periode yaitu Abbasiy I (132-232 H / 750-847 M), Abbaisy II (232-334 H / 847-946 M), Abbasiy III (334-447 H / 946-1055 M), Abbsiy IV (447-656 H / 1055-1258 M). Pada masa Daulah Abbasiyah para hakim tidak lagi berijtihad dalam memutuskan perkara, tetapi mereka berpedoman pada kitab-kitab mazhab yang empat atau mazhab yang lainnya. Dengan demikian, syarat hakim harus mujtahid sudah ditiadakan. sumber hukum yang banyak digunakan oleh hakim kala itu adalah yurisprudensi atau preseden hukum yang ditinggalkan oleh hakim-hakim sebelum masa Dinasti Abbasiyah. Keputusan-keputusan itu bisa jadi rujukan bagi hakim masa Abbasiyah.
Organisasi kehakiman mengalami perubahan, antaralain telah diadakan jabatan penuntut umum (kejaksaan) di samping telah di bentuk instansi Diwan Qadhi Al-Qudhah:
Diwan Qadhi al-Qudhah (fungsi dan tugasnya mirip dengan Departemen Kehakiman) yang dipimpin oleh Qadhi al-qudhah (ketua Mahkamah Agung). Semua badan-badan pengadilan dan badan-badan lain yang ada hubungan dengan kehakiman berada di bawah Diwan Qadhi al-qudhah.
Qudhah al-Aqaali (hakim provinsi yang mengetuai Pengadilan Tinggi)
Qudhah al-Amsaar (Hakim Kota yang mengetuai Pengadilan negeri; Al Qadha atau Al-Hisbah)
Al-Suthah al-Qadha’iyah, yaitu jabatan kejaksaan di ibu kota negara di pimpin oleh Al-Mudda’il Ummy (Jaksa Agung), dan tiap-tiap kota oleh Na’ib Umumiy (Jaksa).