Müslümanların bir kısmı Hz. Ali’nin, kendinden önceki halifeleri kabul ettiğine inanırlar. Bununla beraber kendi halifeliğine kadar hiçbir savaşa katılmayışı diğerlerini halife olarak kabul etmediğine yorulur. Üçüncü Halife Osman asiler tarafından öldürülünce halk Hz. Ali’ye biat ederek onu hilafete seçti. Osman taraftarlarının bir kısmı onun katilini bulana kadar Hz. Ali’yi halife olarak kabul etmeyeceklerini söylediler ve Müslüman toplumu ilk kez iç savaşa sürüklendi. İslam Devleti Hz. Ali ve Muaviye önderliğinde ikiye bölündü. Müslüman toplumunu ilk kez iç savaşa sürükleyen bu duruma İslam literatüründe “İlk Fitne” denir.
Hz. Ali, 4 yıl 9 ay süren hilafet’i müddetinde peygamberin siretine uyup, hilafet’e inkılâp ve kıyam ruhu verdi. Toplumda çeşitli ıslahlara başvurdu.
Cemel Savaşı
Hz. Ali bin Ebu Talib, İslam Devleti’nde çıkan karışıklıkları yatıştırmak için Basra yakınlarında ittifak kuran peygamberin dul eşi Ayşe, Talha ve Zübeyr gibi İslamiyetin tanınmış simaları ile savaştı. Hz. Ali’nin zaferi ile sonuçlanan savaşta Talha ve Zübeyr öldürüldü.
Bu olay Ayşe’nin devesinin etrafında gerçekleştiği için Arapça cemel (deve) kelimesine atfen Cemel Vakası olarak bilinir.
Sıffin Savaşı
Irak ve Şam sınırlarında Muaviye ile savaştı. Sıffin Savaşı olarak bilinen muharebeler 3 ay devam etti. Taraflar yenişemeyince hakem heyetine başvuruldu. Hakem olayından da net bir sonuç çıkmadı. Hz. Ali’nin hakeme başvurması, Müslüman toplumunda halife olarak otoritesini sarstı.
Nehrevan Savaşı
Hz. Ali’nin ordusu tarafından Haricilerin büyük kısmı öldürüldü.