Казалось, что Саксония наконец покорена и включена в состав франкской державы, но это было обманчивое впечатление. Через несколько месяцев из Дании вернулся бежавший туда Видукинд, что послужило сигналом к всеобщему восстанию. Множество франков было перебито, христианские храмы разрушены. Войско, посланное против саксов, попало в засаду у горы Зунталь и было почти полностью перебито мятежниками. Карл собрал новую армию, явился в Верден, вызвал к себе саксонских старейшин и принудил их выдать 4500 заложников. Все они в один день были обезглавлены. Тогда же был обнародован так называемый «Первый саксонский капитулярий», грозивший страшными карами за любое прегрешение против церкви и франкской администрации. Следующие три года Карл почти не покидал Саксонии. В ходе этой упорной войны он бил саксов в открытых сражениях и в карательных рейдах, брал сотни заложников, которых увозил из страны, уничтожал селения и фермы непокорных. Летом 785 года франки перешли Везер. Обескровленный многими поражениями, Видукинд завязал с Карлом переговоры и запросил пощады. Осенью он приехал к королю в Аттиньи, крестился и получил из его рук богатые дары. Это был переломный момент в Саксонской войне. После этого сопротивление побеждённых стало постепенно ослабевать, и Карл получил возможность освободить часть сил для других завоеваний.
В конце 786 года он выступил против герцога Беневентского Арихиза, владевшего южной частью Апеннинского полуострова и мечтавшего объединить под своей властью всю Италию. В начале 787 года Карл уже был в Риме, а затем подошёл к Капуе. Напуганный этой стремительностью, Арихиз отступил к Салерно и оттуда отправил к Карлу своего сына для переговоров. Он обещал полное повиновение, лишь бы король не опустошал его территории. Карл согласился. После этого сам герцог и его народ принесли королю франков присягу в верности. Таким образом, вся Италия, до самого юга, признала власть франкского короля. Развязав себе руки в Саксонии и Италии, Карл обратился против баварского герцога Тассилона, старого союзника лангобардов. В том же году он окружил Баварию с трёх сторон войсками. Тассилон вынужден был принести клятву верности. В 788 году Карл вызвал герцога на суд, низложил и заставил постричься в монахи. Герцогская власть в Баварии была упразднена, а страна отдана под управление графам.
Затем началась тяжёлая аварская война. По свидетельству биографа Карла Эйнгарда, она была самой ожесточённой после саксонской и потребовала от франков очень больших издержек. Летом 791 года армия Карла тремя различными путями вторглась в страну аваров и дошла до Венского леса, где были их главные укрепления. Покинув свой лагерь, авары бежали вглубь страны, франки преследовали их до впадения реки Раб в Дунай. Дальнейшее преследование прекратилось вследствие массового падежа лошадей. Армия вернулась в Регенсбург, нагруженная большой добычей. Весь год Карл провёл в этом городе, но от нового похода против авар его отвлекло восстание саксов. Размах его превзошёл даже события 785 года. К саксам присоединились фризы и славяне. Повсюду были разрушены храмы и перебиты франкские гарнизоны. Осенью 795 года король с сильной армией опустошил Саксонию и дошёл до Нижней Эльбы. Но едва он ушёл, восстали саксы, проживавшие к северу от Эльбы (в Нордальбингии). Карл должен был обратиться против них. Тем временем хорутанский князь Войномир возобновил войну против авар, взял их укреплённый лагерь и захватил богатую добычу. Летом 796 года сын Карла Пипин вновь напал на авар, опустошил всю их страну и разрушил до основания хринг. После этого похода, по словам Эйнгарда, в Паннонии не осталось в живых ни одного её обитателя, а место, на котором находилась резиденция кагана, не сохранило и следов человеческой деятельности. Воинственный народ авар, в течение нескольких столетий наводивший ужас на всю Восточную Европу, перестал существовать.
