Дон Сарто был хиротонисан в епископы в Риме кардиналом Парокки 16 ноября 1884 года. Но надо было ещё долго ждать утверждения со стороны антирелигиозного правительства. Страстную неделю следующего года епископ Сарто провёл в приходе родной деревни. Он приехал в Мантую 18 апреля 1885 года в 7 часов вечера. Его встретила огромная толпа.
Первой заботой нового епископа была духовная семинария, находившаяся в полном упадке. Семинаристов было так мало, что в 1885 году только один мог быть рукоположен во священники. "А мне сейчас нужно сорок священников",- говорил с болью в сердце епископ. По этому поводу Владыка Сарто обнародовал особое пастырское воззвание. В нём говорилось, что обучение в семинарии должно давать священников, обладающих серьёзной подготовкой, тем образованием, которое в своём единстве и глубине одно только способно согласовать непреложные требования веры и права разума, данного Богом людям для служения Ему; тут сказалось отличное знакомство Преосв. Иосифа с творениями Отцов Церкви. Епископ постоянно внимательно следил за ходом преподавания в семинарии: он посещал её несколько раз в неделю, присутствовал на уроках, сам преподавал богословие, спрашивал воспитанников и т. д. Усилия святого архипастыря увенчались полным успехом: года два спустя, семинария в Мантуе по сверхприродному духу преподавателей и воспитанников была одной из лучших в Италии. Несмотря на то, что святитель принимал в семинарию только выдающихся в духовном отношении юношей, дом вскоре был переполнен.
Епископ Иосиф часто посещал священников своей епархии. Он хорошо знал, что экономическое положение духовенства очень тяжко. Поэтому, для избежания материальных трат, приёмы епископа происходили просто на церковной паперти. С отеческою твердостью и любовью он обращал внимание священников на разные недочёты. Ради восстановления порядка, был возобновлен старый обычай созывать всех священников на епархиальные съезды для соборного обсуждения назревших вопросов. Первое же такое собрание вызвало огромный церковно-религиозный подъём; было установлено обязательное объяснение Ов. Евангелия каждое воскресенье, учреждались католические кружки молодёжи, налаживались согласно требованиям канонического права отношения духовенства к светским властям.
Владыка Иосиф много потрудился над преобразованием церковного пения в духе старинных правил, так называемого "полного напева".
Требуя благочиния от своего духовенства, Мантуанский епископ ещё большего требовал от самого себя. Вставал он обычно в 5 часов утра, служил обедню в своей домовой церковке и шёл затем в свою исповедальню, находившуюся в кафедральном соборе. Вернувшись из собора, он выпивал чашку чёрного кофе-это его утренняя еда,- а затем уединялся в юём рабочем кабинете. Посетителей он принимал в любое время.
