Вследствие этого в Хорасане и Средней Азии начались повсеместные мятежи, перешедшие затем в восстание, охватившее всю область.
Отправившись в поход против восставших и дойдя до Туса, Харун ар Рашид заболел. Лежа на смертном одре, халиф повелел привести взятого накануне в плен брата Рафи ибн-Лейса, вождя восставших, и, как передают хроники, закрывая уже в агонии глаза, приказал предать его смертной казни. Оба они умерли в один и тот же час.
Своими наследниками он назвал двух сыновей — Амина, происходившего от законной жены Зубейды, и Мамуна, рожденного от рабыни-персиянки, обойдя третьего — Мутасима. В момент смерти Харун ар-Рашида Амин был наместником в Багдаде, а Мамун правил восточными областями халифата.
Через год после смерти Харуна путем обещаний Мамуну удалось склонить на свою сторону вождя восстания Рафи ибн-Лейса. Свою роль в примирении Рафи ибн-Лейса с халифской властью, несомненно, сыграла позиция, которую занял Мамун по отношению к Алидам и шиизму.
В 811–813 гг. в Сирии происходили небольшие шиитские волнения, направленные против Амина. Как и восстание Рафи ибн-Лейса, сирийские восстания подсказали Мамуну политическую линию компромисса с шиизмом, и он воспользовался этим в личных целях. Шииты приобрели большое влияние при дворе Мамуна. Своим наследником Мамун объявил Алила Али Риза, визирем был назначен перс-шиит Фадль ибн-Сахль, который раздал все высшие административные должности своим родственникам и приверженцам.
Когда в 810 году Амин объявил наследником своего сына, Мамуна, лишенный права наследования, собрал войско, поставил во главе его знатного перса, талантливого военачальника Тахира, и выступил против брата. А войска Амина возглавил Али ибн-Иса, неистовые поборы которого вызвали восстание в Хорасане. В 811 году около Рея войска Мамуна нанесли поражение войскам Амина, и все области к востоку от Тигра перешли в руки Мамуна. В 813 году Тахир занял Месопотамию и штурмом взял Багдад; Амин был схвачен и убит.
В 821 году Тахир за свои военные заслуги был назначен наместником Хорасана. Год спустя, в одну из пятниц, когда в мечети совершалась молитва и, по обычаю, упоминалось имя правившего халифа, Тахир приказал опустить имя Мамуна. Попытка стать независимым от центрального правительства стоила Тахиру жизни.
В это время началось восстание Бабека. В связи с этим резко изменилась и политика Мамуна. В 818 году во время стоянки халифского лагеря у реки Аракса неожиданно погиб всемогущий до того времени визирь Фадль ибн-Сахль. Он был убит в бане собственными рабами. На допросе рабы заявили, что совершили убийство по приказу халифа. «Оскорбленный» Мамун тут же приказал распять рабов: он заметал следы: если бы даже кто-нибудь вздумал начать расследование, убийц уже не было в живых. В Тусе также неожиданно умер наследник Али Риза. Мамун все меньше проявляет склонности к шиизму.
