Masyarakat madani bisa dikatakan sebagai masyarakat demokratis dimana para anggotanya menyadari akan hak-hak dan kewajibannya dalam menyuarakan pendapat, dan mewujudkan kepentingan-kepentingannya; dimana pemerintahannya memberikan peluang yang seluas-luasnya bagi kreatifitas warga negara untuk mewujudkan program-program pembangunan wilayahnya.
Masyarakat madani bagian integral dari bagaimana terlaksananya sebuah sistem demokrasi yang kuat, konsolidasi demokrasi yang bagus dan juga tercapainya tujuan pembangunan dari sebuah negara baik itu di tingkatan pusat maupun daerah.
Sebenarnya, madani berasal dari kata madana dalam Bahasa Arab yang berarti mendiami, tinggal, atau membangun. Kemudian berubah istilah menjadi madaniy yang memiliki arti beradab, orang kota, orang sipil, dan yang bersifat sipil atau terdata.
Selain mengacu pada konsep civil society, istilah masyarakat madani juga mengacu pada konsep kota Madinah yang dibangun oleh Nabi Muhammad saw pada tahun 622 M dan mengacu pada konsep tamadhun (masyarakat yang berperadaban) yang diperkenalkan oleh ibnu Khaldun dan konsep al-Madinah al-fadhilah yang diuangkap oleh filsuf al-Farabi pada abad pertengahan.
Konsep al-Madinah al-Fadhilah diartikan sebagai sebuah negara yang mewujudkan segala keutamaan hidup atas dasar Ketuhanan Yang Maha Esa, oleh para cendekiawan muslim, konsep ini lebih dikenal dengan sebutan baidah tahyyibah. Dan konsep baidah thayyibah inilah yang menjadi konsep yang dikenal sebelum konsep masyarakat madani muncul.
Sebenarnya, ada dua peradaban yang terdokumentasi sebagai masyarakat baidah thoyyibah atau masyarakat madani. Yang pertama, yaitu masyarakat Saba', masyarakat pada masa Nabi Sulaiman A.S. Dalam Al-Qur'an diceritakan bahwa masyarakat Saba' mendiami negara yang baik, subur dan nyaman. Diberi kelimpahan rezeki dan kebutuhan masyarakatnya terpenuhi.
Yang kedua, yaitu masyarakat yastri  (Madinah). Masyarakat yastrib terdokumentasi sebagai masyarakat madani setelah terjadinya piagam Madinah, mereka adalah masyarakat yang beradab, menjunjung tinggi nilai-nilai kemanusiaan hidup rukun, toleran dan tidak saling menindas atau berkonflik satu sama lain. Masyarakat yastrib pada masa Rasulullah adalah wujud yang sebaik-baiknya dari konsep masyarakat madani.
Bahkan, seorang ahli sosiolohi agama bernama Robert N. menyebutkan bahwa masyarakat madani yang dibangun Rasulullah adalah masyarakata yang sangat modern di zamannya. Tapi sayangnya, itu tidak bertahan lama setelah Rasulullah wafat. Hal ini dikarenakan pada saat itu Timur Tengah belum siap dengan prasarana sosial yang diperlukan untuk menopang suatu tatanan sosial modern yang dirintis Rasulullah.
Dari cerminan masyarakat madani yang dibangun Rasulullah beserta penjelasan-penjelasan sebelumnya, maka bisa disimpulkan bahwa masyarakat madani adalah masyarakat yang menjunjung tinggi nilai, norma, hukum yang ditopang oleh penguasaan iman, ilmu dan teknoologi yang berperadaban.
Contoh dari masyarakat madani adalah saat masyarakat Madinah yang dibentuk Rasulullah saw sebagai tipikal masyarakat ideal, bukan pada peniruan struktur masyarakatnya, tapi pada sifat-sifat yang menghiasi masyarakat ideal ini.
Seperti pelaksanaan Amar Ma'ruf Nahi Munkar yang sejalan dengan petunjuk ilahi, maupun persatuan yang kesatuan yang ditunjuk oleh ayat sebelumnya (Ali Imran:105)
