Между Мединой и Сирией находилось несколько полухристианских арабских племен, которые были определенной преградой для наступления из пустыни. В источниках они не упоминаются, хотя должны были сыграть какую-то роль, и можно только предполагать, что, когда император Ираклий прекратил выплачивать им помощь, которую они получали прежде от византийского правительства, это убедило их встать на сторону захватчиков. В 633 году Абу Бакр призвал добровольцев в поход на Сирию и отправил войска туда и в Палестину. Арабы разгромили небольшие силы византийцев в следующем году и совершили ряд мелких набегов в Южную Палестину, но отступили в пустыню, чтобы дождаться помощи из Медины, в то время как Ираклий мобилизовал армию. В этот момент из Ирака неожиданно прибыл Халид, пройдя вверх по Евфрату через Пальмиру, и появился перед Дамаском в апреле 634 года. Разграбив город, он отступил и присоединился к остальным войскам на юге. Византийцы тем временем подошли к Иерусалиму, но потерпели поражение от объединенных арабских сил в битве при Аджнадайне. После ряда дальнейших неудач, постигших византийцев, и шестимесячной блокады арабы захватили Дамаск. Они сразу же рассеялись по Палестине, а Халид тем временем двинулся на север. Между тем Ираклий подготовил мощную армию, состоявшую в основном из армян со вспомогательной конницей, набранной из арабских данников. Значительно превосходящие силы противника застали арабов врасплох, и они ушли из Дамаска и сосредоточились на реке Ярмук, где в июле 636 года нанесли сокрушительное поражение византийцам, что отдало в их руки всю Сирию и Палестину, за исключением двух укрепленных византийских твердынь – Кесарии и Иерусалима. После завоевания Сирии Халид был отозван и сменен Абу Убайдой – администратор сменил полководца. В 637 году Умар посетил Сирию и установил общие принципы управления.
Предложение о набеге в Ирак поступило от вождей арабских племен пограничных областей, которые, оказавшись зажатыми между мусульманами на юге и персами на севере, решили принять ислам и вместе с мусульманами напасть на персидские территории. В 633 году Халид совершил набег на Хиру с небольшим войском, набранным преимущественно из местных. Неожиданный успех убедил его предпринять новые попытки, которые закончились сокрушительным поражением арабов в 634 году в Битве у моста, где их разгромили персидские силы шахиншаха Йездигерда. Арабы вскоре подготовили новое наступление, и летом 637 года персидская армия, насчитывавшая около 20 тысяч человек, потерпела поражение от арабского войска значительно меньшей численности при Кадисии. После своей победы арабы захватили персидскую столицу Ктесифон, также известную как Аль-Мадаин, и заняли весь Ирак. Они легко победили наспех собранные персидские силы при Джалуле, и далее арабские армии стали продвигаться на север через Сирию и Ирак, чтобы встретиться в Месопотамии и завершить завоевание Плодородного полумесяца.
