Dari segi soaial budaya, bangsa Arab dikenal mempunyai kebanggaan dan fanatisme yang tinggi terhadap bahasa yang mereka miliki. Hal ini mendorong mereka berusaha keras untuk memurnikan dari pengaruh asing. Kesadaran itu semakin lama semakin mengkristal, sehingga tahap demi tahap merka mulai memikirkan langkah-langkah pembakuan bahasa dalam bentuk kaidah-kaidah.
Dengan prakarsa khalifah Ali bin Abi Thalib serta dukungan para tokoh yang memiliki komitmen tinggi terhadap bahasa Arab dan Al Qur’an, sedikit demi sedikit mulailah disusun kerangka teoritis yang kelak kemudian menjadi cikal bakal pertumbuhan ilmu Nahwu. Sebagaimana terjadi pada ilmu-ilmu lain, ilmu Nahwu tidak begitu saja muncul dan langsung sempurna dalam waktu singkat melainkan berkembang tahap demi tahap dalam kurun waktu yang cukup panjang.
Pada zaman Jahiliyah kebiasaan orang-orang Arab ketika mereka berucap atau berkomunikasi dengan orang lain. Mereka melakukannya dengan tabiat masing-masing dan lafadz yang muncul terbentuk dengan peraturan yang telah ditetapkan mereka dimana para junior belajar kepada senior, para anak belajar bahasa dari orang tuanya dan seterusnya. Namun ketika Islam datang dan menyebar ke negeri Persia dan Romawi dan terjadinya pernikahan antara orang Arab dengan orang non-Arab, serta terjadi perdagangan dan pendidikan menjadikan bahasa Arab bercampur dengan bahasa non-Arab. Orang yang fasih bahasanya menjadi jelek dan banyak terjadi salah ucap, sehingga keindahan bahasaArab menjadi hilang.
Dari kondisi tersebut, mendorong adanya pembuatan kaidah-kaidah yang disimpulkan dari ucapan orang Arab yang fasih yang bisa dijadikan rujukan dalam mengharakati bahasa Arab, sehingga muncullah ilmu pertama yang dibuat untuk menyelamatkan bahasa Arab dari kerusakan yang disebut dengan ilmu Nahwu. Adapun orang yang pertama kali menyusun kaidah bahasa Arab adalah Abul Aswad ad-Duali dari bani kinanah atas dasar perintah khalifah Sayyidina Ali Bin Abi Thalib.
Terdapat suatu kisah yang dinukil dari Abul Aswad ad-Duali, bahwasanya ketika ia sedang berjalan-jalan dengan anak perempuannya pada malam hari sang anak melihat langit dan memikirkan tentang indahnya serta bagusnya bintang-bintang.
Kemudian putrinya itu berkata ما أَحْسَنُ السَّمَاءِ , yang artinya “apakah yang paling indah di langit”.
Dengan mengkasroh Hamzah yang menunjukkan bahwa kalimat tersebut bermakna istifham/kata tanya. Kemudian sang ayah mengatakan نُجُمُها?
Namun sang anak menyanggah Dengan mengatakan kekaguman (bukan ungkapan pertanyaan), maka sang ayah mengatakan “kalau begitu ucapkanlah ما أَحْسَنُ السَّمَاءَ dengan memfathah hamzah , yang artinya “betapa indahnya langit.
Dikisahkan pula dari Abul Aswad ad Duali ketika ia melewati seorang yang sedang membaca alquran ia mendengar sang Qori membaca surat at-taubah ayat 3 yang berbunyi "وَأَذَانٌ مِنَ اللّهِ وَرَسُوْلِهِ إِلَى النَّاسِ يَوْمَ الحَجِّ الأَكْبَرِأَنَّ اللّهَ بَرِئٌ منَ اللهِ وَرَسُوْلِهِ"
Dengan mengucapkan huruf lam pada kata rasulihi yang seharusnya didhommahkan sehingga artinya “sesungguhnya Allah berlepas diri dari orang-orang musyrik dan rasulnya”. Hal ini menyebabkan arti dari kalimat tersebut menjadi rusak dan menyesatkan. Seharusnya kalimat tersebut adalah
" وَأَذَانٌ مِنَ اللّهِ وَرَسُوْلِهِ إِلَى النَّاسِ يَوْمَ الحَجِّ الأَكْبَرِأَنَّ اللّهَ بَرِئٌ منَ اللهِ وَرَسُوْلُهُ" (dengan di dhommahkan kata rosuluhu)