В 644 г. Омар пал от руки иранского раба и халифом стал Осман. Он был одним из ранних последователей Мухаммеда, в чем немалую роль сыграла его любовь к одной из дочерей пророка. Осман женился на ней, а после ее смерти взял в жены ее сестру, за что получил почетное прозвище «дважды зять посланника Аллаха». Как и его предшественники, он использовал свое положение для личного обогащения, обогащения своих родственников и приближенных. Огромные ценности, стекавшиеся в Аравию из завоеванных стран, разворовывались верхушкой мусульманской общины, вызывая глухой ропот и недовольство ее рядовых членов. Некоторые из них, ссылаясь на высказывания пророка, требовали равномерного распределения всех поступавших средств между всеми мусульманами. Однако халиф и его приближенные продолжали присваивать награбленное имущество и захватывать большие участки плодородных земель. Особенно сильное недовольство проявляли арабские племена Ирака.
В 656 г. Осман был убит в своем доме мусульманами, недовольными разграблением казны. Восставшие провозгласили халифом Али, двоюродного брата и зятя Мухаммеда, женатого на его дочери Фатиме. Он быстро подавил сопротивление «нуворишей» в Мекке и Медине и в 656 г. нанес поражение их войскам при городке Хурейб, под Басрой. Эта битва в истории ислама называется верблюжьей, потому что вдова пророка Айша, провозглашенная «матерью мусульман» и получившая огромную «пенсию», присутствовала на этом сражении, сидя на верблюде. Она выступила на стороне противников нового халифа и во время сражения была взята в плен.
Наиболее серьезном соперником Али стал наместник богатой провинции Сирии Муавия, представлявший интересы мусульманской аристократии. В борьбе против Муавии халиф Али мог рассчитывать на арабские племена в Ираке, недовольные правлением Османа. Поэтому в первую очередь он перенес столицу халифата в Куфу, основанную мусульманами в 636 г. в Южном Ираке по приказу халифа Омара.
В 657 г. в северной части Междуречья, называемой арабами Эль-Джазира, у Сиффина, находящегося сейчас; на территории Сирии, произошло крупное сражение между войсками Муавии и иракскими отрядами халифа Али. Ни те, ни другие не достигли успеха. По сообщениям арабских историков, сирийские войска уже начали отступать, когда наместник Египта Амр, бывший в войсках Муавии, приказал сирийским солдатам поднять на мечах и копьях листы Корана и призвал своих противников прекратить кровопролитие и решить спор мирным путем на основании предписаний священной книги. Хитрость и коварство египетского наместника победили: Али под давлением своих влиятельных приверженцев отдал приказ прекратить бой. Проявленная Али уступчивость послужила причиной возникновения среди мусульман первого сектантского движения хариджитов. Они выступили против судебного разбирательства спора о выборе халифа и против политики Али. 12 тыс. хариджитов покинули лагерь под Куфой и направились вверх по Евфрату к Багдаду, бывшему в то время небольшой деревушкой. К хариджитам примыкало все больше сторонников, которых привлекала решимость хариджитов бороться с оружием в руках за осуществление своих принципов. Первым требованием их было провозглашение суверенитета мусульманской общины, которая назначает и смещает своего главу — халифа, причем главой общины мог быть любой человек, сумевший подтвердить свое благочестие.
