Setelah itu kalahlah 'Ali bin abi Thalib dan keluarga serta pengikutnya menyingkir ke Kufah. Dinasti baru muncul yaitu Dinasti Mu'awiyah. Anaknyalah yang bernama Yazed bin Mu'awiyah yang membantai keluarga 'Ali dalam tragedi Karbala. Tapi orang-orang Sunni sekarang khususnya aliran wahabi berapologi bahwa yang membunuh 'Ali dan keluarganya adalah para pengkhianat warga Kufah yang didompleng Khawarij.
Tapi sebelum ke sana. Sudah jelas ada pertentangan antara Keluarga 'Ali dan pengikutnya serta Mu'awiyah dan pengikutnya. Istilah Shi'ah itu muncul dari kata-kata Shi'at yang artinya pengikut maka ungkapan komplitnya Shi'at 'Ali wa Ahlihi atau pengikut Ali dan keluarganya.
Sewaktu masa-masa ini, muncul juga pertentangan teologis mengenai Tuhan, dosa, pahala, surga dan neraka. Jadi jika ada orang Islam atau umat lain yang masih meributkan hal ini, masih terjebak di masa lalu.
Aliran-aliran teologis bermunculan ada yang disebut;
- aliran ijbariah, yang beranggapan bahwa manusia tidak punya kehendak bebas sedangkan Tuhan punya hak Ijbar atau hak memaksa, sehingga apa yang dilakukan manusia di bumi adalah karena hak Ijbar Allah. Dikatakan bahwa aliran Ijbar ini adalah perpanjangan tangan atau neo-khawarij di masa itu.
- aliran murji'ah. Pengertian murji'ah sendiri ialah penangguhan vonis hukuman atas perbuatan seseorang sampai di pengadilan Allah SWT kelak. Jadi, mereka tak mengkafirkan seorang Muslim yang berdosa besar, sebab yang berhak menjatuhkan hukuman terhadap seorang pelaku dosa hanyalah Allah SWT, sehingga seorang Muslim, sekalipun berdosa besar, dalam kelompok ini tetap diakui sebagai Muslim dan punya harapan untuk bertobat.
- aliran Qadariyah yang berusaha menengahi perdebatan itu dan berpandangan bahwa manusia memiliki kehendak bebas. Aliran ini percaya bahwa segala tindakan manusia tidak diintervensi oleh Allah. Aliran ini berpendapat bahwa tiap-tiap orang adalah pencipta bagi segala perbuatannya, ia dapat berbuat sesuatu atau meninggalkannya atas kehendaknya sendiri. Aliran ini lebih menekankan atas kebebasan dan kekuatan manusia dalam mewujudkan perbuatan-perbuatannya. Aliran ini berasal dari pengertian bahwa manusia mempunyai kekuatan untuk melaksanakan kehendaknya, dan bukan berasal dari pengertian bahwa manusia terpaksa tunduk pada qadar Tuhan.
Seiring dengan berkembangnya aliran-aliran ini, suasana politik juga memanas. keluarga Nabi dari jalur pamannya yang paling muda yaitu Abbas bin Abdul Muthalib menggalang pemberontakan kepada dinasti Umayyah. Tapi ketika mereka berkampanye meraih pengikut, mereka juga mengajak kelompok shi'ah untuk bersatu dengan mengatasnamakan ahlul bait.
Pada awalnya Muhammad bin Ali, cicit dari Abbas bin Abdul Muthalib menjalankan kampanye untuk mengembalikan kekuasaan pemerintahan kepada keluarga Bani Hasyim di daerah Persia pada masa pemerintahan Khalifah Umayyah yang bernama Umar bin Abdul Aziz. Selanjutnya pada masa pemerintahan Khalifah Marwan II, pertentangan ini semakin memuncak dan akhirnya pada tahun 750 M, Abu al-Abbas al-Saffah berhasil meruntuhkan Dinasti Umayyah dan kemudian dilantik sebagai khalifah.
Ketika khalifah Abbasiyah berdiri, keturunan Umayyah menyingkir dan mendirikan dinasti Umayyah II di Eropa dengan pusat pemerintahan di Andalusia Spanyol.
ketika masa Abbasiyah aliran-aliran fikih bermunculan. Sebenarnya sejak masa dinasti umayyah pertama sudah ada mazhab fikih Hanafi, tapi semakin mapan di awal-awal dinasti Abbasiyah.
