Случалось, в большой праздник, среди архиерейского богослужения, являлись в храм с таким же требованием.
Кроткий и смиренный в обычное время, владыка веско и коротко отвечал, что он ни в коем случае не прекратит богослужения и явится в НКВД лишь по окончании его. Столь категорически звучал его тон, что и посланцы со скрежетом зубовным покорялись. По окончании долгого 45-часового богослужения не отдохнувший и не поевший Владыка спешил на Маразлиевскую, где, в отместку ему за задержку, его издевательски продерживали в передней еще часа полтора и наконец принимали, причем Баранович орал и топал ногами на епископа, как на провинившегося раба.
Таковы условия, в которых подвизался на своем высоком посту горячо почитаемый населением архипастырь.
Тяжелей всего ему было являться свидетелем почти поголовного ареста всех настоятелей и лучших проповедников Одессы в 1931 г. Все они в количестве свыше 20 человек были в 1931 г. сосланы, и с этого же года началось кощунственное закрытие и уничтожение храмов. На глазах владыки были взорваны величественный кафедральный Преображенский собор, дивный храм архистратига Михаила при Девичьем монастыре, прекрасное здание военного Святосергиевского собора и храмы святителя Николая в порту, и в местности так называемого Ботанического сада, а также множество других. Репрессии в отношении духовенства усилились: лишенные крова и пропитания, духовные лица день и ночь осаждали покои владыки, и он целыми днями метался по разным политическим учреждениям, униженно вымаливая пощады своим подчиненным, встречая насмешки и поношения.
В 1932 г. владыка Анатолий получил сан митрополита, а также был выдвинут кандидатом на освободившийся пост экзарха Украины. Но по своей скромности он уклонился от этого и продолжал возглавлять кафедру Одесско-Херсонской епархии вплоть до своего ареста, последовавшего 27 июля 1936 г. (ст. ст.).
Перед этим митрополит перенес еще одно унижение: был уволен Барановичем и получил запрет совершать богослужения.
Арестованный в ночь с 27 на 28 июля 1936 г., владыка был немедленно вывезен в Киев, где его протомили в очень тяжелых условиях с полгода. Там он снова заболел язвой желудка и осложнением на ноги. Когда по особому ходатайству экзарха Украины, митрополита Константина, перед высылкой владыке Анатолию разрешили свидание с сестрой, то, как несчастная с рыданием рассказала нам впоследствии, его ввели к ней на свидание под руки — он совсем почти не владел ногами.
