Хотя ближе других к пророку был его кузен и зять Али, отец двух любимых внуков пророка, Хасана и Хусейна (сыновей Фатимы), первым халифом избрали не его, а Абу-Бекра, старейшего сподвижника Мухаммеда. Абу-Бекр правил недолго (632–634), но успел немало: при нем были урегулированы внутренние смуты в Аравии и дан старт знаменитым арабским завоеваниям (походы на Сирию и занятую сасанидским Ираном Месопотамию). После i смерти Абу-Бекра вторым халифом стал Омар, которого избрал своим преемником Абу-Бекр. За десять лет власти (634–644) Омар добился огромных успехов. Используя слабость и раздоры внутри сасанидского Ирана, он не только отвоевал у него Месопотамию, но и продвинулся дальше, присоединив к своим владениям Закавказье и территории собственно Ирана. Активно действуя против Византии, арабские полководцы завоевали Сирию и Палестину и дошли до стен Константинополя. В 639 г. к Халифату был присоединен и Египет.
В 644 г. Омар был убит рабом-иранцем. Халифом стал Осман – тоже мухаджир (участник хиджры, т. е. ближайший сподвижник пророка), принадлежавший к богатому мекканскому курейшитскому роду Омейядов. Сам Осман был бесцветной личностью, но продолжавшиеся при нем арабские завоевания имели успех. К Халифату были присоединены Армения и Малая Азия, ряд североафриканских территорий (Ливия – вплоть до Карфагена, едва откупившегося от подошедших к его стенам арабов). При Османе на передний план стали выдвигаться Омейяды, постепенно прибравшие к рукам все доходные должности, что вызвало недовольство многих, чувствовавших себя обойденными. Это были главным образом сторонники Али, получившие наименование шиитов (шиа – группа, партия, секта).
Шииты считали, что не Осман, а Али, ближайший родственник и сподвижник пророка, должен был занять место халифа. Выдвижение Омейядов послужило толчком для усиления их активности. Пропаганда шиитов, утверждавших, что халифы должны быть из рода пророка, привлекала многих, недовольных возвышением Омейядов. В их числе оказались не только арабы, но и принявшие ислам жители более отдаленных стран, например Ирана. Шиитов поддерживали и многие племена арабских кочевников-бедуинов. Дело кончилось тем, что в 656 г. толпы шиитов, собравшиеся в Медине под видом паломников из Египта, Месопотамии и других районов Халифата, ворвались во дворец Османа и убили его. Халифом был провозглашен Али.
Новый халиф перенес столицу из Медины в Куфу (Месопотамия) и сместил всех назначенных Османом наместников различных районов обширного Арабского халифата. Лишь один из наместников – Муавия из рода Омейядов – отказался подчиниться Али и фактически оторвал возглавляемую им Сирию от Халифата. Муавия стал готовиться к войне с Али, а его приверженцы, опираясь на Коран, выступили против идеи шиитов о праве на власть лишь потомков Али.
