Осложнилось положение в Италии. Римская знать, возглавляемая семейством герцогов Крещенциев, опираясь на помощь Византии, изгнала поставленного Оттоном I папу Бенедикта VI и возвела на папский престол Бонифация VII. Но он вскоре был изгнан пронемецкой партией и нашел убежище в Константинополе. В 981 г. Оттон II предпринял свой первый поход на Рим, не встретив здесь серьезного сопротивления. Вокруг него собралось в Риме множество германской, итальянской и французской знати. Среди прочих были будущий французский король Гуго Капет и будущий папа Сильвестр II – Герберт из Ауриляка[24].
Оттон II готовился к войне за Южную Италию, которая формально принадлежала Византии, но подвергалась постоянным нападениям со стороны сицилийских арабов эмира Абуаль Касима. Отношения оттоновской империи с Византией после смерти Иоанна Цимисхия заметно ухудшились. Новые ее правители – евнух Василий и соимператоры Василий II и Константин VIII, не находившиеся ни в каких родственных связях с императрицей Феофано, подозрительно относились к немцам и старались не допустить их проникновения в Южную Италию. Столкновение немцев с арабами в Южной Италии было для Византии большим выигрышем. Не заключая формально союза с фатимидским эмиром, византийские правители поддерживали арабов против немцев.
Оттон II начал наступление и занял Тарент. Но в горах Калабрии около Капо-Колонне немецкое войско, одержавшее перед этим победу, неожиданно подверглось нападению легкой арабской конницы и было почти целиком уничтожено. Оттон II чудом спасся от арабского плена. Он бежал на греческий корабль и чуть не попал в плен к византийцам. Ему с трудом удалось вплавь добраться до берега. Однако это поражение не охладило воинственного пыла Оттона II. Он начал готовиться к новому походу в Южную Италию. Из Германии должны были прибыть новые подкрепления. Согласно сохранившейся в документах разверстке, составленной, видимо, на основе решения собрания немецких князей (по мнению отдельных историков, на этом собрании председательствовал сам Оттон II, спешно прибывший из Италии), епископы и аббаты должны были направить 1504 панцирных воинов, а светские господа – 586. Совершенно ясно, что с таким войском невозможно было вести войну с арабами и византийцами. Речь шла только о подкреплении, которого, по-видимому, Оттон II так и не дождался. Летом 983 г. он двинулся снова на юг Италии, но успеха не имел. В декабре 983 г. Оттон II внезапно умер в Риме. Незадолго перед этим его трехлетний сын Оттон III был провозглашен на собрании немецкой и итальянской знати в Вероне немецким королем и отправлен для коронации в Ахен.
