За время длительного испытательного срока в шесть лет Азеф, во всяком случае номинально, работал под руководством иностранного агентства Рачковского. Однако по окончаний испытательного срока и завершении его образования в училище Рачковский не захотел — по неясным причинам — иметь с ним ничего общего.
Поэтому его направили обратно в Россию и устроили на работу в Москве под начало Зубатова, который в то время все еще продолжал активно заниматься созданием профсоюзов, контролируемых полицией, но уже приступил к созданию центрального агентства. Став одним из сотрудников Зубатова в этом подразделении, Азеф получил задание внедриться к эсерам, наиболее активной террористической организации.
В 1900 году Евно настолько хорошо освоился в партии социалистов-революционеров, что его месячное довольствие увеличили до ста пятидесяти рублей. В 1901 Году Азефа, имевшего высокий кредит доверия у Зубатова, посылают за границу с целью проникновения в эмигрантские круги эсеров, особенно в центральный комитет партии. За короткий срок он настолько втерся в эти структуры, что ему стал доверять сам Гершуни, который в то время подумывал о создании «боевой организации» и планировал убийство Сипягина, министра внутренних дел, или Победоносцева.
Азеф, однако, не сообщил в Охрану об этих террористических планах. Напротив, он уговорил Зубатова не беспокоить Гершуни, когда тот снова приедет в Россию в 1902 году. В результате Сипягин был убит Балмашевым, который действовал по указанию Гершуни.
Вызванный в июле 1902 года в Петербург, Азеф подвергся проверке в связи с убийством Сипягина, но сумел выкрутиться. Для таких случаев у него было несколько эффективных уверток: он сдавал либо террористов низшего звена, либо тех, кто мог его заподозрить. Азеф также заявлял, что не следует раскрывать слишком многих, так как чересчур активные действия против террористов создадут опасность для его положения. Евно частенько называл и вымышленные имена, прикрывая действительных исполнителей. К своему позору, Охрана покупалась на такие отговорки своего агента. Однако, в сущности, у нее не оставалось выбора. Азеф превратился в единственного в своем роде, глубоко законспирированного полицейского агента, которого было невозможно заменить.
В деле Сипягина Азеф замаслил Охрану, выдав несколько мелких эсеров. И Плеве, преемник Сипягина, именно тогда приказал Евно вступить в «боевую Организацию» социалистов-революционеров, чтобы предотвратить проколы в будущем.
