Ada sebuah kisah, pada jaman jahiliyah dahulu terdapat seorang ahli bahasa yang bernama Abul Aswad Ad-duali, memiliki anak dari pernikahannya dengan wanita yang berasal dari Persia. Suatu hari si anak menunggu sang bapak yaitu Abul Aswad Ad-duali di teras rumah. Dan menjemput ayahnya tatkala terlihat memasuki halaman rumah dan berkata :

مَا أَحْسَنُ السَّمَاءِ

“Apakah yang paling indah di langit?”

Dengan mengkasrah hamzah, yang menunjukkan kalimat tanya dan mendhommahkan huruf nun . Kemudian sang ayah mengatakan,

نُجُوْمُهَا يَا بُنَيَّةُ

“Wahai anakku, Bintang-bintangnya”

Namun sang anak menyanggah dengan mengatakan,

اِنَّمَا اَرَدْتُ التَّعَجُّبَ

“Sesungguhnya aku ingin mengungkapkan kekaguman”

Maka sang ayah mengatakan, kalau begitu ucapkanlah,

مَا اَحْسَنَ السَّمَاءَ

“Betapa indahnya langit.”

Bukan,

مَا اَحْسَنُ السَّمَاءِ

“Apakah yang paling indah di langit?”

Dengan memfathahkan hamzah…

Kemudian beliau menceritakan hal tersebut kepada khalifah Ali ibn Abi Thalib tentang kekhawatirannya terhadap rusaknya bahasa arab. Kemudian hal ini disadari oleh khalifah Ali Bin Abi Thalib, sehingga ia memperbaiki keadaan ini dengan membuat pembagian kata, bab innadan saudaranya, bentuk idhofah (penyandaran), kalimat ta’ajjub (kekaguman), kata tanya dan selainnya, kemudian Ali Bin Abi Thalib berkata kepada Abul Aswad Adduali,

اُنْحُ هَذَا النَّحْوَ

“Ikutilah jalan ini”

Dari kalimat inilah, ilmu kaidah Bahasa Arab disebut dengan ilmu nahwu. (Arti nahwu secara bahasa adalah arah ). Kemudian Abul Aswad Ad-Duali melaksanakan tugasnya dan menambahi kaidah tersebut dengan bab-bab lainnya sampai terkumpul bab-bab yang mencukupi.