Pada 656 sampai 661 Masehi terjadi munculnya "fitnah besar" yang disebut dengan Khawarij (orang-orang yang keluar jamak dari khariji). Montgomery Watt menjelaskan beberapa makna dari Khawarij,yaitu sebagai berikut :
1. Khawarij adalah mereka yang keluar atau membuat pemisahan dari masyarakat ataupun kelompok.
2. Khawarij adalah mereka yang berada ditengah-tengah orang yang tidak beriman.
3. Khawarij adalah mereka yang telah pergi ke suatu pemberontakan .
4. Khawarij adalah mereka yang keluar dan berperan dalam melawan orang-orang yang duduk di dalam dua kelompok atau hanya duduk diam saja.
Terjadinya kemunculan khawarij ini karena tidak puas dengan sikap Ali bin Abi Thalib yang berdamai dengan Muawiyah bin Abu Sufyan ketika pertempuran shiffin yaitu perang saudara islam pertama.
Kemunculan Khawarij dalam pemikiran dapat dilihat dari aspek politis,yang disebabkan oleh perbedaan cara pandang dan pemahaman terhadap cara menyeselesaikan perselisihan umat islam. Menurut Khawarij untuk menyelesaikan perselisihan ini harus dengan cara tahkim yaitu menyalahi hukum Allah dan berdoa besar untuk yang mengadakan cara tahkim. Ajaran-ajaran khawarij ini contohnya seperti persoalan jabatan khalifah,mu'amalah,dan zuhud serta lainnya sebagainya.
Ajaran-ajaran Khawarij secara garis memiliki tiga ajaran,yaitu sebagai berikut:
- Permasalahan jabatan khalifah
Khawarij mengakui pemerintahan Khalifah pada periode pertamanya untuk melakukan perubahan dan mengadakan sesuatu yang tidak dibuat oleh kedua khalifah,mereka mengakui pemerintahan Ali bin Abi Thalib menyalahkan keputusan yang telah ditawarkan saat perundingan (tahkim).
Teori ini ber asaskan "Bahwa seseorang khalifah dilantik melalui pemilihan bebas dari umat islam,apabila sudah terpilih menjadi khalifah maka dia sudah menjadi ketua (pemimpin) umat islam dan harus mematuhi hukum-hukum yang telah diperintahkan oleh Allah,jika dia menyimpang perintah-perintah dari Allah maka dia akan semestinya dipecat".
Berdasarkan garis keturunan (nasab) khawarij tidak menerima sistem khalifah,tidak pula menerima kekhilafahan dari garis keturunan Ali dan dari kaum muslimin lainnya serta tidak pula harus melihat dari segi garis keturunan Rasulullah.
- Mu'amalah dengan sesama muslim