Летом 1869 года Кони стал чувствовать недомогание, у него обнаружился упадок сил и по совету доктора он выехал для лечения за границу. Кони путешествовал по Германии, Бельгии и
Франции, используя пребывание там как для лечения, так и для расширения своих юридических познаний. Он посещает судебные заседания, встречается с прокурорами и адвокатами, изучает специальную литературу, знакомится с опытом работы судов. Там вновь встретился с министром юстиции К. И. Паленым. В сентябре 1869 года Кони писал своему другу С. Ф. Морошкину: «Бывши в Карлсбадене, я видел Палена и много толковал с ним о деле серий и о прочих материях, касающихся Харькова. Он был со мной очень любезен и откровенен, рассказывал, что государь требовал у него объяснений по поводу оправдания Андрусенко (крестьянин, последователь учения Л. Н. Толстого — Авт.) и, между прочим, объясняя мое долгое оставление в Харькове, сказал мне: „Укажите, кто может обвинять с успехом по делу серий из известных вам лиц“, и когда я затруднился… то Пален сказал: „Вот и объяснение, почему я держал вас в Харькове“». Далее Кони писал о том, что Пален просил его явиться к нему в октябре, чтобы «потолковать о переводе из Харькова».
Граф Пален свое слово сдержал. Вскоре после беседы с Кони он перевел его на службу в столицу. 18 февраля 1870 года Кони получил должность товарища прокурора Санкт-Петербургского окружного суда. В последующие годы министр постепенно переводил Кони на все более ответственные посты. 26 июня того же года министр назначает его на должность самарского губернского прокурора, но уже менее чем через месяц переводит прокурором Казанского окружного суда. Поставив Кони на самостоятельную должность, граф Пален не упускал его из виду. В июне 1871 года он лично ревизовал судебные установления в Казани, внимательно ознакомился с их работой, побывал в окружном суде во время проведения процесса над неким Нечаевым, обвинявшимся в убийстве из корыстных побуждений. Обвинение поддерживал А. Ф. Кони. Граф Пален остался доволен и организацией процесса и обвинительной речью прокурора.
Вскоре после этого Кони становится прокурором Санкт-Петербургского окружного суда. В этой должности он прослужил четыре года. Он поддерживал обвинение по многим уголовным делам, выдвинувшись в число лучших судебных ораторов России. В судебных процессах ему часто противостояли такие знаменитые адвокаты, как В. Д. Спасович, К. К. Арсеньев, А. М. Унковский и другие. Многие обвинительные речи Кони стали публиковаться в печати.
