В середине 20х годов он стал сотрудником Закордонной части иностранного отдела ОГПУ. Образование и природный ум сыграли большую роль в его карьере. После личной встречи и беседы с Менжинским, занявшим пост руководителя ведомства на Лубянке, он уже в качестве нелегального резидента был переправлен в Германию, а потом под легендой немецкого бизнесмена во Францию. В его задачу входила организация сети агентуры и ее глубокое внедрение в антисоветски настроенные военные организации, состоящие из белоэмигрантов и объекты военно-стратегического характера Западной Европы. Особое беспокойство Москвы вызывала деятельность Русского обще-воинского союза, который после смерти барона Врангеля в 1928 году, возглавил генерал Кутепов. С приходом нового руководства, РОВС резко усилил свою антисоветскую деятельность. На территорию СССР перебрасывались диверсионные группы, имеющие задачу организации диверсий и террактов, дестабилизации политической и экономической обстановки, убийств политических и военных руководителей советского государства. В Москве было принято решение о похищении Кутепова и его доставлению в СССР.
В ноябре 1929 года в Париж были направлены лучшие специалисты ОГПУ, специализирующиеся на ликвидациях.
В окружение Кутепова под видом преставителей германской разведки, заинтересованых в получении развединформации через разведсеть РОВСа внедрили агентов ОГПУ.
Воскресным январским утром 1930 года генерал Кутепов вышел из своего дома и направился на панихиду по генералу Каульбарсу. Он шел по тихой и зеленой улице де Рюссиле, рассеяно помахивая тростью и совершенно не обращая внимания на двух праздно гуляющих молодых людей, оживленно обсуждающих предстоящий вечер у мадам Дортуа. Обогнав генерала, у тротуара затормозил сверкающий хромом и лаком автомобиль. Ослепительно улыбающийся Йоган Галлерт, он же Алексей Костенко вышел из машины, раскрыв Кутепову свои объятия:
— Майн либер, генерал, чертовски рад вас видеть. Прошу в мое авто.
Заражаясь его доброжелательностью, Кутепов шагнул к открытой дверце автомобиля. Тут же, рядом оказались те самые молодые повесы. Прижав к лицу генерала остро пахнувший носовой платок, они затолкали в салон, безвольно обмякшее тело. Автомобиль неторопливо тронулся с места, шурша шинами выбрался на шоссе и двинулся в сторону Марселя.
Улицы Парижа в этот утренний час были совершенно безлюдны и никто не обратил внимания на таинственный автомобиль, увезший русского генерала. Париж, город любви и цветов, еще не привык к этим странным русским, открывающим стрельбу и похищающим друг друга среди белого дня. Невозмутимо насвистывая Костенко крутил баранку, краем глаза наблюдая в зеркало за тем, как молодые люди сноровисто стянули с генерала пиджак, и закатав рукав рубашки сделали ему укол в вену. Аккуратно протерев место укола ваткой, один из них уложил шприц в кожаный, коричневый саквояж и облегченно произнес:
