Его зачислили в генеральное представительство «L» «Организации Гелена» в Карлсруэ. Оно действовало под вывеской торговой фирмы, шефом которой был бывший сотрудник абвера Бенцингер. Работа началась с изучения архивных дел и поиска кандидатур для вербовки. Здесь Фельфе столкнулся с тем, что геленовская разведка работала не только против Востока. Как он сообщал в Центр, в 1951-м и 1952 годах генеральное представительство интенсивно работало над приобретением агентуры в ключевых экономических и политических сферах ФРГ и Западного Берлина. Заводились досье на ведущих политиков не только правящих партий, но и оппозиционных.
Работа Фельфе в «Организации Гелена» и одновременное сотрудничество с советской разведкой требовали предельной осторожности и безоговорочного выполнения всех требований конспирации. На каждую встречу с советским разведчиком Фельфе или Клеменс, который тоже стал работать в организации Гелена, привозили по 10–12 отснятых фотопленок и пару магнитофонных катушек. Спустя год с разрешения Москвы Фельфе начал использовать в качестве связника еще одного своего коллегу, Эрвина Тибеля. Таким образом, постепенно сложилась агентурная группа, где лидером являлся Хайнц Фельфе — интеллектуал и отличный организатор.
Вскоре Москва поставила перед Фельфе очередную задачу — перевестись в центральный аппарат «Организации Гелена», расположенный в небольшом городке Пуллах, под Мюнхеном. В июле 1955 года канцлер Аденауэр принял решение о реорганизации разведывательной службы государства. Он хотел создать самостоятельную разведывательную службу, вне контроля ЦРУ.
В 1958 году, два года спустя после переименования «Организации Гелена» в Федеральную разведывательную службу (БНД), Фельфе возглавил реферат «Советский Союз» в отделе 111-Ф (контршпионаж) и одновременно стал правительственным советником. Коллеги из реферата «ГДР» завидовали Фельфе, так как его дела шли лучше, чем у них. Вскоре он купил дом в Баварии, и многие сослуживцы стали задаваться вопросом, откуда такие средства. За Фельфе уже было установлено наблюдение.
С 1956 года с ним регулярно встречался сотрудник советской резидентуры в Германии Виталий Коротков. Много лет спустя он рассказал:
«Тогда я работал в берлинском представительстве КГБ. Мне поручили принять на связь ценного источника „Курта“. Первая встреча с Фельфе состоялась на конспиративной квартире. В комнату вошел высокий худощавый человек. Держался он скромно, но с достоинством. Не тратя времени на пустые разговоры, перешел к делу. Хайнц говорил, взвешивая каждое слово, стараясь довести до собеседника самое важное.
