В том же 540 году гунны, перейдя Дунай, опустошили Скифию и Мёзию. Направленный против них племянник императора Юст погиб. Варвары трижды осаждали Константинополь, но взять его не смогли. Славяне, участвовавшие в этих походах сначала как союзники гуннов, в дальнейшем продолжали свои набеги уже самостоятельно. Никакие укрепления не могли сдержать их страшного натиска. По свидетельству Прокопия, гунны, славяне и анты почти каждый год совершали набеги на Иллирию и Фракию и творили ужасающие насилия по отношению к тамошнему населению. Здесь было убито и порабощено столько людей, что вся эта область стала подобна Скифской пустыне.
В Италии дела византийцев также шли неважно. В 541 году готским королём сделался Тотила. Ему удалось собрать разбитые дружины и организовать умелое сопротивление немногочисленным и плохо обеспеченным отрядам Юстиниана. За пять последующих лет римляне лишились в Италии почти всех своих завоеваний. Опальный Велисарий в 545 году опять прибыл на Апеннины, но уже без денег и войск, практически на верную смерть. Остатки его армии не смогли пробиться на помощь осаждённому Риму. 17 декабря 546 года Тотила занял и разграбил Вечный город. Вскоре готы сами ушли оттуда, и Рим ненадолго вернулся под власть Юстиниана. Обескровленная римская армия, не получавшая ни подкреплений, ни денег, ни продовольствия, стала поддерживать себя грабежом мирного населения. Это, как и восстановление суровых римских законов, привело к массовому бегству рабов и колонов, которые непрерывно пополняли войско Тотилы. К 550 году он вновь овладел Римом и Сицилией, а под контролем Константинополя остались лишь четыре города — Равенна, Анкона, Кротон и Отранто. По свидетельству Прокопия, Италия к этому времени была разорена ещё более, нежели Африка.
В 552 году Юстиниан направил в Италию тридцатитысячную армию во главе с энергичным и талантливым полководцем Нарсесом. В июне в битве при Тагинах войско Тотилы были разгромлено, а сам он погиб. Остатки готов вместе с преемником Тотилы, Тейей, отошли к Везувию, где во втором сражении были окончательно уничтожены. В 554 году Нарсес одержал победу над 70-тысячной армией франков и алеманов. В том же году, воспользовавшись междоусобной войной вестготов, римляне захватили юго-восток Испании с городами Кордубой, Картаго-Новой и Малагой. Таким образом, несмотря на казалось бы непреодолимые препятствия, несмотря на поражения, мятежи, набеги варваров, разорение государства и обнищание народа, несмотря на мириады жертв, Римская империя всё-таки возродилась. Заплаченная за это цена была огромна, и уже современники Юстиниана ясно сознавали, что она неоправданно велика.
