Если заходили знакомые, они нередко все вместе отправлялись к Киселеву. Пестель был желанным гостем в доме начальника штаба. Здесь вечерами в гостиной киселевского дома вокруг Пестеля собирался кружок офицеров. Часто к ним присоединялся хозяин. Разговоры велись очень свободные. Не стеснялись высказывать свои мнения и о петербургском начальстве и об Аракчееве, а иногда касались и царской фамилии. Киселев слушал, улыбался, изредка вставлял свои замечания. Ему не боялись возражать, если находили, что он не прав, а он не обижался, выслушивая порой резкие возражения.
Свободное время Киселев нередко проводил в обществе Пестеля. Он охотно пользовался его богатыми знаниями, прекрасными способностями администратора. Их знакомство началось в день прибытия Киселева в Тульчин, 16 мая 1819 года, когда Витгенштейн представлял новому начальнику штаба своих сотрудников. Как адъютант главнокомандующего Пестель сопровождал потом Витгенштейна и Киселева в поездке по местам расположения 2-й армии, и эти поездки очень сблизили Пестеля и Киселева.
Глубокий взгляд на вещи, тонкие и верные суждения высоко поставили Пестеля в мнении Киселева. «Из всего здешнего синклита, — писал Киселев Закревскому, — он один, и совершенно один, могущий с пользой быть употреблен, малый умный, со сведениями, и который до сих пор ведет себя отлично хорошо… Пестель такого свойства, что всякое место займет с пользою; жаль, что чин не позволяет, но дежурный ли генерал, начальник ли штаба в корпусе — везде собою принесет пользу, ибо голова хорошая и усердия много».
Закревский решил снова предостеречь друга. «Радуюсь, что ты от Пестеля в восхищении, — отвечал он. — Но прошу иметь его в том мнении, как я тебе писал. Время все открывает, а не минутное удовольствие». Осторожный Киселев понял, что был не в меру откровенен, и поспешил оговориться: «В Пестеле не душевные качества хвалю, но способности ума и пользу, которую извлечь из того можно, впрочем о моральности не говорю ни слова». Но эти оговорки делались для влиятельного петербургского друга, в Тульчине Киселев никаких претензий к «душевным качествам» Пестеля не предъявлял.
С первых месяцев своей работы Киселев принялся горячо исправлять недостатки в снабжении частей, деятельности военных судов, в ремонте казарм и других казенных зданий, но оставалось главное, исправить которое Киселев был не в силах. Об этом главном часто шли разговоры между Пестелем и Киселевым.
