Masyarakat muslim mengutuk perbuatan kejam yang dilakukan Yazid pada Husein, Cucu Nabi. Masyarakat Madinah melepaskan kesetiaan dan menyatakan tidak akan tunduk pada penguasa Umayyah. Yazid mengirim tentara untuk menyerang Madinah, ia ingin mendapatkan pengakuan Madinah atas pemerintahannya.
Peristiwa ini disebut sebagai pengepungan Hirah. Alkisah, peristiwa ini menimbulkan korban sebanyak 4.500 jiwa manusia. Banyak perempuan menjadi janda, banyak perempuan diperkosa, anak kehilangan orangtuanya, sanak-famili tercerai berai dipisahkan oleh kematian, oleh peperangan.
Kengerian ini dilakukan oleh panglima bernama Muslim bin Uqbah atas perintah Yazid. “Bujuklah mereka untuk menyerah selama tiga hari. Jika tidak menyerah juga, perangi mereka. Bila mereka takluk, segala sesuatu adalah halal bagi kalian selama tiga hari. Rebutlah harta, ternak, senjata, dan pangan mereka untuk dinikmati para tentara. Jika lewat masa tiga hari, butakanlah mata mereka.”
Keinginan untuk melawan Dominasi umayyah merembet ke masyarakat Mekkah. Pada tahun 680 Masehi, Abdullah bin Zubair di Mekkah menentang kekuasaan Bani Umayyah.
Saat menyatakan diri sebagai khalifah, Abdullah tidak hanya mendapatkan baiat dari masyarakat Mekkah tetapi ia juga memperoleh sumpah setia dari penduduk Irak, Mesir dan beberapa wilayah Suriah. Dengan dukungan di dunia Islam yang memilih beroposisi pada dinasti Umayyah membuat gerakan perlawanan Abdullah bin Zubair tidak mudah dipadamkan.
Yazid mengirimkan tentaranya ke Mekkah untuk menyerang Abdullah Bin Zubair, Mekkah dikepung selama beberapa minggu, selama dalam pengepungan tersebut terjadi peristiwa terbakarnya Kabah.
Pengepungan berakhir setelah tersiar kabar bahwa Yazid meninggal, pasukan yang datang dari Damaskus pun lebih memilih bernegosiasi dan bahkan menawarkan Abdullah bin Zubair untuk menyerang balik wilayah Syam. Abdullah bin Zubair sebetulnya memiliki kesempatan untuk menyerang pusat kekuasaan Umayyah dan mengambil alih pucuk pimpinan umat Islam (amir al-muminin), namun ia memilih untuk berdiam diri di Mekkah.
Perlawanan Abdullah bin Zubair berhasil ditumpas saat dinasti Umayyah dipimpin oleh Abdul Malik bin Marwan. Abd Malik mengutus Hajjaj bin Yusuf untuk melawan Ibn Zubair di Mekkah.
Menurut Baladhuri dan Ibn Atham, sebelum Abdul Malik mengirim Hajjaj bin Yusuf Mekkah, seorang bernama al-Haytham ibn al-swad datang kepada Abdul Malik dan berpesan “Wahai pemimpin orang yang beriman janganlah menodai kesucian Kabah, jangan menyentuh batu hajar aswad, jangan ganggu burung-burung yang hidup di sana, tolong perintahkan Hajjaj hanya untuk memblokade wilayah pegunungan dan perairan yang mengarah ke Mekkah agar mengisolir Ibn al-Zubair hingga ia mati kelaparan.”
Raja menuruti saran tersebut dan memerintahkan agar Hajjaj bin Yusuf berangkat ke Thaif untuk menghormati kesucian kota Mekkah. Tetapi sebenarnya, di Thaif, Hajjaj bin Yusuf mengumpulkan kekuatan, setelah semua keperluan tersedia ia pergi ke Mekkah dan meletakkan senjata katapel di gunung Abu Qubays untuk menghujani kota Mekkah dari sana, Mekkah di bombardir serangan bahkan saat kaum muslimin melakukan ibadah haji.
Beberapa orang yang menyaksikan penyerangan ini memberikan gambaran seperti berikut, salah satunya adalah ayah dari Hisham ibn Urwa “Batu yang dilemparkan dari senjata katapel ke Kabah merobek kiswah seperti robekan pada pakaian blus wanita”. (The stones of the mangonel were thrown at the Ka'ba until became rent like the openings at the bosom of a woman's blouse) Keterangan lain diberikan oleh seorang bernama Uwana yang mengatakan dahsyatnya serangan yang bertubi-tubi terhadap Kabah membuat bangunan ini goyah dan rapuh.
