После смерти Дзержинского во второй половине 20-х годов Джунковский постепенно отходит от активной работы в ГПУ. Уже с 1928 года ужесточается политика властей по отношению к «старой» интеллигенции, дореволюционным специалистам. В работе ГПУ методы политические все более отступают под давлением мер репрессивных. «Шахтинское дело» и последовавшее за ним «академическое дело» положили начало новому периоду в деятельности спецслужб. Облик их менялся жестко и стремительно. Джунковский с его взглядами становился не нужен. В сфальсифицированном «академическом деле», в центре которого оказались крупные ученые Академии наук, не разделявшие идеологию марксизма, появляется его имя. Оценка им этого дела расходится с мнением следователей. Эта история завершается высылкой Джунковского из Москвы. Теперь он живет в Подмосковье, в Перловке, пишет воспоминания.
Летом уезжает на юг, в Крым. Работает смотрителем маяка неподалеку от Тесселей. Здесь у него новое увлечение — на арендованной земле он выращивает сад, у него прекрасный огород, бахча, виноградник. Он продает излишки урожая, выводит новые сорта. А вечерами продолжает писать воспоминания.
В 1938 году Джунковский возвращается к себе в Подмосковье, в Перловку. «Барин приехал!» — хмыкнул дворник и поделился новостью с приятелем из соседнего двора. По их доносу через несколько дней Джунковского арестовали. «Дело» вело управление НКВД по Московской области. Решением «тройки» по той же области он был приговорен к расстрелу. Приговор был исполнен весьма скоро.
На склоне лет он стал жертвой той организации сыска и доноса, которую еще внедрял на царской службе, объединяя филеров и дворников в систему наружного наблюдения, той организации сыска, которая благополучно перешла в Советскую Россию. И его стараниями тоже.
