Аналогично складывались отношения у империи и с Венгрией. Венгерский князь Вайк (христианское имя Иштван (Стефан) 1) насаждал в стране христианство и находился в дружественных связях с папой и императором. Оттон III воспользовался этим, надеясь включить Венгрию на положении «союзной и дружественной страны» в империю. В 1001 г. император и папа пожаловали Иштвану I королевский титул и утвердили самостоятельное архиепископство для Венгрии в Гране. Зависимость Венгрии от империи была чисто номинальной и длилась недолго. Вскоре венгерский король вовсе освободился от нее, признав своим патроном только «престол св. Петра».
На обратном пути из Польши Оттон III побывал в Германии. Видимо, главной целью его было не столько решение неотложных государственных дел, сколько посещение гробницы Карла Великого в Ахене. Однако сюда он направился не для поклонения праху «великого монарха», которого считал своим предшественником, а для более практических целей. Титмар Мерзебургский рассказывает, что Оттон III приказал разломать каменный пол храма в том месте, где по слухам был похоронен Карл Великий, и рыть, пока не будет найдена гробница. Когда она была раскопана и вскрыта, Оттон III снял золотой крест, висевший на шее трупа, и взял нетленные царские одежды. Теперь у Оттона III имелись реликвии от «самого великого императора», что, по его представлениям, должно было намного возвысить его императорское достоинство. Но на современников все это не произвело ожидаемого впечатления.
С того времени, как император оставил Рим, прошло полтора года, и Оттон III начал спешно собираться для возвращения в свою столицу. Приходили тревожные известия, что немецкое господство в Италии рушится. Южноитальянские области с городами Неаполь, Салерно, Гаэта, Амальфи, присоединенные к империи в 999 г., обрели независимость и выгнали поставленных императором правителей. Маркграф Арнульф Иврейский, поддерживаемый многими итальянскими феодалами, заявил притязания на итальянскую корону. Собрав значительное войско, состоявшее главным образом из баварцев и лотарингцев, Оттон III двинулся за Альпы. Немцы нанесли поражение итальянским войскам Арнульфа и в октябре 1000 г. вступили в Рим. Здесь Оттон III не встретил того ликования, на которое рассчитывал. Вскоре в городе вспыхнуло восстание. Вымогательства немцев возбудили недовольство даже тех кругов, которые к ним раньше относились лояльно. Во главе восстания встал Григорий Тускуланский, назначенный ранее Оттоном III на должность «префекта флота». Императору с трудом удалось бежать из осажденного Авентинского дворца. Но вскоре немцы подавили восстание и заняли Рим. Оттон III произнес, по словам писателя Тангмара, речь перед собранными на площади св. Ангела римлянами: «Вы ведете себя так, как будто вы не являетесь моими возлюбленными римлянами. Ради вас я оставил свое отечество, своих близких; из любви к вам я покинул своих саксов и немцев. Я добыл для вас такие новые земли, на которые никогда не вступала нога ваших далеких предков, когда они покоряли мир. Все это делалось во славу вашего имени... И за все это вы платите возмущением против меня, вашего отца, убиваете моих верных подданных, хотите, чтобы я удалился... Но я не злопамятен, и никогда не оставлю вас в своей благосклонности»
