Keinginan Abrahah Al-Asyram supaya gereja Al-Qullays didatangi banyak orang untuk melaksanakan ibadah memang tercapai. Namun, itu tidak menghentikan orang-orang untuk tetap datang beribadah ke Kakbah di tanah Hijaz. Bahkan yang datang ke Kakbah semakin banyak saja. Tentu saja kenyataan itu membuat Abrahah jengkel dan marah.
Dalam pada itu, mendengar tujuan Abrahah membangun gereja mewah Al-Qullays untuk mengalihkan orang-orang datang ke Kakbah, memicu kemarahan orang-orang Arab. Bagaimanapun, orang-orang Arab sangat diuntungkan dengan keberadaan Kakbah dan ritual orang-orang beribadah di sekelilingnya. Kedatangan banyak orang, dari berbagai wilayah, tentu saja mengangkat perekonomian penduduk Arab.
Sehingga, salah seorang Arab dari Bani Malik bin Kinanah, saat berdagang di Yaman, diam-diam memasuki gereja Al-Qullays dan mengotori barang-barang yang ada di dalamnya dengan kotoran hewan. Akibatnya, Abrahah murka, lalu bersumpah bahwa dia akan menghancurkan Kakbah dan memaksa bangsa Arab untuk beribadah ke Al-Qullays.
Untuk tujuannya itu, Abrahah pun memberitahu sekaligus meminta bantuan pasukan gajah kepada Raja Najasyi. Permintaan Abrahah dikabulkan Raja dengan mengirimkan bantuan pasukan, termasuk pasukan gajah.
Abrahah pun berangkat menuju tanah Hijaz dengan membawa pasukan besar. Abrahah berada di depan pasukan dengan menunggangi gajah terbesar yang diberi nama Mahmud.
Rintangan pertama yang dihadapi Abrahah adalah dari orang Yaman sendiri. Yaitu Dzu Nafar, seorang pembesar Yaman yang telah bersekutu dengan Quraisy. Dzu Nafar tidak setuju Abrahah menyerang sekutunya itu. Maka, dia -- dengan mengajak kaumnya - melakukan penyerangan pada pasukan Abrahah. Namun, pasukan Abrahah terlalu kuat. Dzu Nafar pun kalah dan ditawan Abrahah.
Abrahah melanjutkan perjalanan menuju Makkah. Selama perjalanan pasukan Abrahah mendapat rintangan dari suku-suku yang bersekutu dengan Quraisy, dan tidak ingin Kakbah dihancurkan. Tapi kekuatan pasukan Abrahah mampu mengatasi serang-serangan tersebut.
Sampai di Makkah, Abrahah tidak langsung menyerang. Dia memerintahkan sebagian pasukannya untuk memasuki Makkah dan menjarah harta benda milik penduduk Makkah, termasuk hewan ternak. Di antara hewan ternak yang diambil pasukan Abrahah itu, ada 200 ekor unta milik Abdul Muthalib.
Abrahah menyuruh salah seorang tentaranya yang bernama Hunata al-Hiyari. Kepadanya Abrahah berkata, "Tanyakan, siapa pemimpin negeri ini, temui, dan katakan pesanku ini, 'Kami datang bukan untuk berperang melainkan hanya untuk menghancurkan Kakbah. Kami tidak akan membunuh kalian, selama kalian tidak memerangi kami.'
Hunata al-Hiyari pun berangkat. Abdul Muthalib ternyata pemimpin kota Makkah. Karenanya, Hunata menyampaikan pesan Abrahah kepada Abdul Muthalib.