В то же время Оттон II использовал этот удобный случай и для перераспределения земель на немецком юго-востоке, которое казалось необходимым вследствие разрушения старых каролингских марок венгерскими нашествиями. Поэтому баварская Восточная марка была реорганизована и передана восточнофранконскому Бабенбергу Лиутпольду. Тем самым род Бабенбергов оказался вовлечен в решение масштабных будущих задач на юго-востоке. Одновременно было создано новое герцогство Каринтия, переданное Лиутпольдингу Генриху, которому были подчинены также итальянские маркграфства Верона и Аквилея. С этими преобразованиями началась и новая колонизация, поддержанная епископствами Пассауским, Регенсбургским и Зальцбургским и крупными баварскими монастырями. Епископ Пильгрим Пассауский в своем не чуравшемся подлога, но безуспешном стремлении приобрести для собственного епископства архиепископский статус распространил миссионерскую деятельность вплоть до Венгрии.
Однако самой Германии эти преобразования не принесли спокойствия. Действуя из Богемии, Генрих Сварливый прилагал все усилия для того, чтобы получить обратно свое герцогство, и в 977 году, после двух безрезультатных военных походов Оттона II на Богемию, снова поднял мятеж в союзе с недавно воцарившимся герцогом Генрихом Каринтийским и епископом Генрихом Аугсбургским. Только в 978 году после тяжелой борьбы император, власть которого на юго-востоке на сей раз подверглась серьезной угрозе, смог подавить это выступление. В результате силы заговорщиков были сломлены: решением императорского суда они были отправлены в заключение. Генрих Каринтийский потерял свое герцогство, которое перешло к Салию Оттону, сыну Конрада Рыжего и императорской дочери Лиутгарды, так что теперь два внука Оттона Великого, носившие то же имя, управляли тремя южногерманскими герцогствами. Эти перемены, очень существенно способствовавшие укреплению императорской власти, повлекли за собой изменения и в ближайшем окружении Оттона II. Императрица-мать Адельгейда потеряла свое прежнее влияние, уступив место Феофано. Вместе с супругой императора приобрели растущее значение в качестве его советников и помощников архиепископ Виллигиз Майнцский и его преемник на посту канцлера епископ Хильдебальд Вормсский. Болеслав Богемский вновь признал сюзеренитет императора.
Уже в начале внутригерманской борьбы Оттон II вынужден был одновременно защищаться и от внешнего вторжения со стороны датского короля Харальда Синезубого. Харальд, лишь в 965 году обращенный в христианство, поддерживал хорошие отношения с Оттоном Великим. Однако после смерти Оттона он, ничтоже сумняшеся, в союзе с норвежским ярлом Хаконом вторгся в Нордальбингию. Поскольку Хакон скоро повернул назад, Оттон осенью 974 года легко справился с обороной. Атаки на Даневерк
