Dasar-dasar Ilmu Kalam sebenarnya telah tertanam dalam Al-Qur'an dan Sunnah, yang sering kali mendorong umat Islam untuk merenungkan tanda-tanda kebesaran Allah di alam semesta, memahami sifat-sifat-Nya, serta menggali esensi keberadaan manusia. Ayat-ayat yang berbicara tentang keesaan Allah, keadilan-Nya, serta hari akhir menjadi landasan yang kokoh bagi perumusan prinsip-prinsip Kalam. Sejarah kemunculan Ilmu Kalam dimulai pada masa awal Islam, ketika diskusi mengenai persoalan-persoalan teologis muncul dalam konteks perbedaan politik dan sosial.Â
Ilmu kalam biasa disebut dengan ushuluddin, tauhid, fiqh al-Akbar, dan teologi Islam. Ushuluddin, membahas pokok-pokok agama. Tauhid, membahas keesaan Allah SWT., mengkaji tentang asma' dan af'al yang wajib, mustahil, dan ja'iz bagi Rasul-Nya. Ilmu kalam dan tauhid sebenarnya sama, tetapi argumentasi ilmu kalam difokuskan pada penguasaan logika (Abdul & Rosihon, 2007). Istilah fiqh terbagi menjadi dua. Pertama, fiqh al-akbar, membahas pokok agama. Kedua, fiqh al-ashgar; membahas hal yang berkaitan dengan muamalah, bukan pokok agama tetapi hanya cabang saja. Menurut (Harun, 1978) Teologi dalam Islam adalah 'ilm al-Tauhid yang berarti satu atau esa.
1. Dasar-dasar Qurani Ilmu Kalam
a. Al-Qur'an
Al-Qur'an banyak menyinggung hal yang berkaitan dengan masalah ketuhanan, diantaranya adalah sebagai berikut. Pertama, Q.S. (Al-Ikhlas: 3-4), menunjukkan bahwa Tuhan tidak beranak dan tidak diperanakan, serta tidak ada sesuatu yang sejajar dengan-Nya. Kedua, (Q.S. Al-Furqan: 59), menunjukkan bahwa Tuhan bertahta di atas "arsy". Ketiga, (Q.S. Al-Fath: 10), menunjukkan Tuhan memiliki "tangan" yang berada di atas tangan orang-orang yang berpegang teguh dengan janji Allah. Keempat, (Q.S. Thaha: 39), menunjukkan bahwa Tuhan mempunyai "mata" untuk mengawasi seluruh gerakan makhluk-Nya. Kelima, (Q.S. Ar-Rahman: 27), menunjukkan Tuhan memiliki "wajah" yang tidak akan rusak selamanya.
b. Hadis
Hadis Nabi Muhammad SAW., banyak membicarakan masalah yang dibahas dalam ilmu kalam, seperti hadis yang membahas keimanan. Adapun hadis yang menjadi prediksi kemunculan golongan ilmu kalam, seperti H. R. Abu Hurairah r.a, bahwa Rasulullah bersabda, "Orang-orang Yahudi akan terpecah belah menjadi tujuh puluh dua golongan: Dan umatku akan terpecah menjadi tujuh puluh golongan."Â
c. Pemikiran Manusia
Menurut (Harun, 1986) Pemikiran manusia terbagi menjadi pemikiran umat Islam dan pemikiran dari luar umat Islam. Sebelum filsafat Yunani masuk dan berkembang di dunia Islam, umat Islam telah menggunakan pemikiran rasionalnya untuk menjelaskan hal-hal yang berkaitan dengan ayat Al-Qur'an, terutama yang belum jelas maksudnya (al-mutayabihat). Bentuk kongkretnya adalah  ijtihad yang dilakukan para mutakallim dalam menghadapi persoalan yang tidak ada penjelasannya dalam Al-Qur'an dan Hadis, seperti persoalan manzillah bain al-manzilatain di kalangan Mu'tazilah; persoalan ma'shum dan ba'da di kalangan Syi'ah; dan persoalan kasab di kalangan Asy'ariyah.
d. Insting
Secara instingtif, manusia selalu ingin bertuhan. Oleh sebab itu, kepercayaan adanya Tuhan telah ada sejak manusia pertama datang ke bumi. Menurut (Abbas, 1973), keberadaan mitos merupakan asal-muasal agama di kalangan orang-orang primitif. Adapun orang yang pertama membentangkan pemikiran kalam secara lebih baik dengan rasionalnya adalah Imam Al-Asy'ari, seorang tokoh ahli sunnah wa al-jamaah, melalui karyanya yang terkenal, yaitu Al-Maqalat, dan Al-Ibanah An-Ushul Ad-Diyanah (Harun, 1986).