Sebagai salah satu agama terbesar di dunia, Islam telah melewati berbagai zaman dan juga dinamika. Dinamika-dinamika tersebut melahirkan adanya sistem dan pemahaman teologi baru dari dalam Islam itu sendiri. Beberapa aliran tersebut adalah: Khawarij, Syiah, Mu'tazilah dan Sunni, aliran-aliran tersebut memiliki corak teologinya sendiri, dan dua diantara-Nya yaitu Syiah dan Khawarij memiliki satu benang merah yang menjadi asal muasal mengapa Khawarij dan Syiah dapat muncul dan eksis hingga sekarang. Lantas bagaimana kedua aliran itu lahir?.
Dalam sejarah perkembangannya, perpecahan aliran dalam Islam menurut buku Teologi Islam: Aliran-Aliran Sejarah Analisa Perbandingan karya Alm. Harun Nasution, disebabkan oleh persoalan politik yang berkembang hingga menjadi persoalan teologi. Terlebih pasca wafatnya Nabi Muhammad, masyarakat Madinah sibuk memikirkan siapa pengganti atau Khalifah yang akan menggantikan beliau sebagai kepala negara. Menurut W. M Watt, negara Islam pada waktu itu telah mencakup  seluruh Semenanjung Arabia yang didalam-Nya merupakan kumpulan suku bangsa Arab yang telah mengikat persekutuan dengan Nabi Muhammad, maka cukup wajar huru hara pengganti Nabi menjadi penting karena kedudukannya akan menjadi penerus dari Legacy yang telah dibangun Nabi Muhammad semasa hidupnya, hingga sampai pada satu keputusan bahwa Abu Bakar Ash-Shiddiq yang akan menjadi khalifah pengganti Nabi.
Awal permasalahan Islam terpecah menjadi beberapa aliran dimulai pada masa kekhalifaan Utsman bin Affan, dalam kepemimpinannya terjadi sebuah tindakan politik dimana ia mengangkat orang-orang yang ada dalam lingkup keluarganya untuk menjadi Gubernur di daerah yang telah tunduk pada kekuasaan Islam. Tindakan politik tersebut menimbulkan reaksi negatif dari para sahabatnya yang pada awalnya mendungkungnya lalu meninggalkannya, hingga masyarakat yang terletak di Semenanjung Arab. Puncaknya, 500 pemberontak berkumpul dan bergerak menuju Madinah dan menciptakan suasana Madinah yang gaduh hingga akhirnya membawa pada pembunuhan Utsman bin Affan.
Pasca wafatnya Utsman bin Affan, Ali bin Abi Thalib muncul sebagai kandidat terkuat untuk menjadi khalifah ke-empat, namun pergolakan politik belumlah padam. Saat itu Ali mendapat tekanan dari para pemuka yang ingin menjadi khalifah, yaitu Thalhah bin Ubaidillah dan Zubair dari Mekkah, dan mereka berdua mendapat sokongan dari Aisyah, Istri Rasulullah. Puncak dari persoalan itu adalah pertempuran Jamal yang menghasilkan kemenangan bagi kubu Ali, dan terbunuhnya Thalhah dan juga Zubair.
Keberhasilan pada pertempuran Jamal tidaklah membuat keadaan saat itu menjadi kondusif. Muawiyah yang saat itu menjadi Gubernur di Damaskus dan keluarga yang dekat bagi Utsman enggan mengakui Ali sebagai khalifah, ia menuntut Ali supaya menghukum pembunuh Utsman, yaitu Muhammad bin Abu Bakar yang merupakan anak angkatnya. Namun respon lain ditunjukkan oleh Ali dengan tidak menindak keras Muhammad bin Abu Bakar dan para pemberontak lainnya, bahkan Ali mengangkat Muhammad bin Abu Bakar menjadi Gubernur Mesir.
Konflik antara kubu Ali dan Muawiyah pun semakin memanas hingga terjadilah perang Siffin. Pertempuran ini pada awalnya dimenangkan kubu Ali karena berhasil mendesak pasukan Muawiyah, namun, Amr bin Ash yang merupakan tangan kanan dari Muawiyah memainkan taktik liciknya dengan mengangkat Al-Qur'an ke atas pertanda untuk mengakhiri pertempuran dengan cara melakukan arbitrase. Arbitrase inilah yang membawa kejatuhan pada kekhalifaan Ali bin Abi Thalib.
Pelaksanaan arbitrase itu mengharuskan kedua belah pihak menunjuk satu orang sebagai perantara yang mewakili kubu masing-masing, maka dipilihlah Abu Musa Al-Asy'ari yang mewakili Ali bin Abi Thalib, dan Amr bin Ash yang mewakili Muawiyah bin Abu Sofyan. Hasil pemufakatan tersebut menghasilkan jalan tengah dengan sama-sama menjatuhkan kedua pemuka yang bertentangan, lalu sebagai yang tertua, Abu Musa Al-Asy'ari mengumumkan terlebih dahulu bahwa kedua pihak yang berselisih sama-sama dijatuhkan dan mencopot gelar kepemimpinannya. Di lain pihak, Amr bin Ash mengingkari hasil pemufakatan tersebut dengan mengatakan bahwa hanya Ali yang dijatuhkan gelar kepemimpinannya.
Bagaimanapun peristiwa kecurangan yang dilakukan oleh Amr bin Ash dinilai merugikan pihak Ali bin Abi Thalib. Karna jika dilihat secara legal, Ali lah yang berhak atas posisi tersebut, sementara Muawiyah hanyalah Gubernur daerah yang tak mau tunduk pada Ali. Dengan adanya arbitrase tersebut menjadikan Muawiyah sebagai khalifah yang tidak resmi. Tidak mengherankan bahwa putusan ini ditolak Ali dengan tidak meletakkan jabatannya, sampai ia wafat terbunuh oleh Abdurahman bin Muljam di tahun 661M.
Sikap Ali yang menerima tipu muslihat Amr bin Ash untuk mengadakan arbitrase menyebabkan kekecewaan bagi sebagian tentaranya. Mereka yang kecewa beranggapan bahwa hal-hal serupa tidak dapat diputuskan oleh arbitrase manusia. Putusan-putusan hanya datang dari Allah dengan kembali pada hukum yang tertuang dalam Al-Qur'an. Maka mereka yang kecewa memisahkan diri mereka dari kubu Ali, dan dunia mengenal mereka sebagai kelompok Khawarij atau orang-orang yang memisahkan diri/ seceders.
Menyadari bahwa posisinya sekarang menghadapi dua kubu sekaligus, Ali memusatkan perhatiannya terlebih dahulu untuk menghancurkan kelompok khawarij. Namun setelah berhasil menaklukannya, tentara Ali tidak dapat bertahan untuk meneruskan pertempuran dengan kelompok Muawiyah. Alhasil kelompok Muawiyah tetap berkuasa atas Damaskus, dan setelah wafatnya Ali, Muawiyah dengan mudah memperoleh pengakuan khalifah umat Islam pada tahun 661M, sekaligus pertanda bahwa kekhalifaan bani Umayyah dimulai.