Омейяды, вынужденные лицом к лицу столкнуться с растущим недовольством своих подданных, ни в коей мере не могли рассчитывать на нераздельную поддержку самих арабов. Общее племенное чувство независимости, все еще сильное среди арабских кочевников и направленное не столько против Омейядов, сколько вообще против государства, нашло политическое и религиозное выражение в ряде движений. В Мекке и Медине те из набожных мусульман, которые так по-настоящему и не признали компромисс Муавии между принадлежностью к арабской нации и централизацией, сформировали теократическую оппозицию, которая делала упор на добровольном и религиозном аспектах патриархального халифата, провозглашенного ими идеалом. Их предвзятое и враждебное отношение к Омейядам окрасило всю раннеисламскую религиозную и историческую литературу, фундамент которой они закладывали в тот момент. Их сопротивление Омейядам редко принимало форму вооруженного мятежа, но постоянная пропаганда помогла подорвать авторитет центрального правительства.
Еще более опасным выражением желания отвергнуть централизованное государство и вернуться к доисламскому порядку с внешними атрибутами стало движение хариджитов. Это была группа сторонников Али, которые взбунтовались против произвольного соглашения в Сиффине и потребовали, чтобы вопрос решал Бог, иначе говоря, оружие. 12 тысяч человек, как рассказывают летописцы, покинули войско Али. Он уговорил их воссоединиться с ним на какое-то время, но около 4 тысяч вновь откололись от него, и Али был вынужден напасть и убить множество из них в битве при Нахраване в 658 году. Движение хариджитов сначала было чисто религиозным, но постепенно развилось в агрессивное и анархическое сопротивление, не признающее никакой власти, кроме власти халифа, которого они сами выбрали и которого могли отвергнуть в любой момент, как часто и делали. В двадцать лет после смерти Али несколько незначительных хариджитских бунтов произошло в Ираке, и их кульминацией стал мятеж после смерти Язида. Хариджиты были ослаблены внутренними раздорами и постоянным стремлением разбиваться на мелкие конфликтующие фракции. При Абдул-Малике они были разгромлены в Ираке и постепенно вытеснены в Иран. К началу VIII века были практически уничтожены. Они представляли доисламскую арабскую доктрину правительства по согласию и верховенство личного мнения в самой экстремальной форме.
Главной внутренней слабостью порядка Омейядов, из-за которой в конечном счете и произошло их падение, была непрерывная вражда среди самих арабских племен. Арабская национальная традиция делит племена на две основные группы: северную и южную, и у каждой подробнейшее генеалогическое древо показывает взаимосвязи между разными племенами внутри группы и их происхождение от общего предка. В доисламской Аравии тоже шли межплеменные войны, но они затрагивали соседние племена, часто родственные друг другу. Возникновение междоусобных войн между крупными союзами племен стало результатом завоеваний. В амсарах арабы селились по кварталам согласно своим племенам. Эти кварталы образовывали союзы из соперничающих фракций, но не по географическому принципу, а скорее как своего рода мозаику. Родословные арабских преданий, вероятно, вымышленны, но тем не менее играют важную историческую роль, так как они доминировали в жизни арабов во времена Омейядов. Первое неясное проявление междоусобицы между северным и южным «союзами» относится к периоду Муавии, после чего она начала стремительно развиваться, прорываясь открытым насилием каждый раз, когда ослабевал авторитет центрального правительства. Так случилось после смерти Язида, когда Кайс, один из глав северных племен, отказался признать его преемника и поддержал Ибн аз-Зубайра. Омейяды при поддержке южного племени кальб смогли разгромить их, одержав победу при Мардж-Рахите, но династия Омейядов утратила свой нейтралитет и погрузилась в трясину стычек. После Абдул-Малика халифы обычно опирались на ту или иную сторону, и сам титул халифа выродился в пост, на который кандидатов назначали стороны племенного конфликта. Высказывались предположения, что столь глубоко укорененная и незатухающая борьба должна была иметь более серьезные причины, нежели воображаемые генеалогии арабских преданий. Эти причины обнаружились в конфликте интересов между арабами, мигрировавшими на завоеванные территории еще до их завоевания – в основном арабами южного происхождения, и преимущественно северными арабами, которые пришли с исламскими армиями. Этот диагноз подкрепляется тем фактом, что южные племена были в основном более восприимчивы к шиитской пропаганде, что позволяет предположить некоторую общность их интересов с мавали.
