Suite à la mort de Uthmân, Ali est choisi pour devenir le Khâlifat Allâh à sa suite. Ce dernier est le gendre du Prophète, de même que son cousin. Toutefois, il ne fait pas  consensus parmi les élites de l’Empire. Sa prise de pouvoir est suivie par de grandes tensions sociales, et de multiples révoltes, notamment dans la péninsule arabique. Les premiers combats sont déclenchés sous le commandement de Aisha, veuve de Muhammad et fille de Abû Bakr, en s’alliant avec Zubayr et Talha (deux compagnons du Prophète). Ils réunissent leurs troupes à Basra, en Irak, s’unissant avant d’attaquer le Calife. L’affrontement a lieu à la bataille du Chameau (dénommée ainsi car Aisha montait un chameau au cours de la bataille), en 656, près de Basra. La victoire va à Ali, lui permettant ainsi de mettre un terme aux troubles civils qui perturbent l’Empire. Ce répit n’est toutefois que temporaire. En effet, le cousin du précédent Calife, Mu’âwiya Umayyade, gouverneur du Sham, se pose en révolte ouverte face à Ali. Il est ici important de comprendre que ce que l’on désigne alors par le Sham est l’une des plus riches et des plus importante province du Dar-al-Islam (empire de l’Islam), donnant ainsi à son gouverneur des ressources exceptionnelles. Mu’âwiya s’oppose au calife, justifiant qu’Ali, une fois arrivé au pouvoir, n’a rien fait ni pour trouver les coupables du meurtre de son cousin, ni pour venger sa mort, ce qui équivaut donc à une insulte envers leur famille. Cette justification lui permet donc de réunir la puissance de sa province et de s’opposer au Calife, à partir de 657.

Cette même année, les deux protagonistes s’affrontent à la bataille de Siffîn. Après plusieurs jours de combat sans vainqueur, ils conviennent de faire appel à un arbitrage. Toutefois, aucun des deux n’est jugé digne d’emporter la victoire. Dès lors la division du monde de l’Islam, non seulement se concrétise, mais s’ancre dans une nouvelle réalité. Une paix est signée entre Ali et Mu’âwiya, qui reste toutefois fragile. Ce ne sont pas deux camps qui ressortent de cet affrontement mais trois. Il y a d’un côté, les chiites, ou les Shi’at Ali, sont ceux qui soutiennent Ali comme Calife légitime, ainsi que sa descendance. De l’autre, se trouvent les sunnites, ce qui suivent la sunna, c’est-à-dire l’orthodoxie de la foi. Ces derniers soutiennent Mu’âwiya, qui est lui-même un Quraysh (tribu d’origine du Prophète). Enfin, ne reconnaissant ni Ali, ni Mu’âwiya, se trouvent les Kharijites. Déçus par les camps, ils décident de se séparer de cette communauté. Ils existent encore aujourd’hui, tout en étant une forme très minoritaire des courants de l’Islam.

Le point déterminant de cette scission de l’Islam est l’assasinat de Ali en 661 par des Kharijites pour venger leurs frères tombés en 658 lors d’une rébellion ouverte contre le Calife. À la suite de ce décès, c’est Mu’âwiya qui prend le contrôle de l’Empire.