第四任哈里发阿里是穆罕默德的堂弟和女婿。在奥斯曼被刺后，麦加和麦地那的贵族上层马上召开选举会议，选举阿里继任哈里发，并定都于库法。阿里继位之初，也面临着严重的政治危机。这种危机来自穆斯林内部的对抗，尤其是来自哈里发国家核心集团的权力争夺。阿里继位后，曾经参与竞争哈里发职位的脱勒哈和祖拜尔联合阿市·伯克尔的女儿、穆罕默德的妻子阿依莎以武力威胁阿里，公然反对阿里的统治。656年，两军在巴士拉附近相遇，结果阿里的军队击败了叛军。这是穆斯林之间的第一次战役。因阿依莎作战时骑着骆驼，故称之次战役为“骆驼战役”。在这次战争中，脱勒哈战死，祖拜尔逃回麦地那，阿依莎被俘，许多圣门弟子在这次战役中丧生。骆驼战役后，更难对付的敌手——伍麦叶家族的穆阿维叶出现在阿里面前。穆阿维叶是在对外征战中成长起来的贵族军事首领，在叙利亚经营了20年，实力不容小觑。奥斯曼被刺后，他立即在叙利亚宣称自任哈里发。阿里斥责他违反了伊斯兰教的传统，不服从哈里发的命令，并要免去他的官职。双方矛盾已到了不可调和的地步，于是，公元657年，双方交战于幼发拉底河中游的绥芬，称“绥芬战役”。在这次战役中，穆阿维叶提出“依经判断”的建议。阿里集团内部在就这个建议问题上发生激烈的争论，阿里明知是计，但在一部分主和派胁迫下接受了仲裁；这引发了另一部分主战派则对阿里极端不满，并从阿里的追随者中退出，成为阿里的反对派。这是伊斯兰教历史上最早出现的教派。阿里为了消灭这派势力，曾派兵剿杀他们，发生了有名的“拿赫鲁宛大战”。阿里虽获胜，但终未消灭这股势力。661年，阿里被一名反对派分子刺杀。阿里被杀后，库法人主张由其子哈桑任哈里发。然而，哈桑或许出于对穆斯林内部权位争夺的厌倦，或许对自己的支持者的力量缺乏足够的信心，主动致函穆阿维叶请求和解，承认穆阿维叶出任哈里发的合法地位，并且隐居麦地那。于是穆斯林结束内战，伊斯兰世界恢复了统一和相对平和的状态。正统的四大哈里发时期也随之结束。
四大哈里发时期，在哈里发政权体制下，仍保留着穆罕默德时期理想主义的神圣社会形式，其架构基本上没有王权的成分。穆阿维叶的继任标志着神圣的哈里发体制结束了，随之而来的是为世俗王权而展开的争斗。由纯粹的哈里发时代过渡到哈里发权力与王权结合的时代，使伊斯兰社会理想与现实的冲突日趋明朗和尖锐。