После февральской революции 1917 террорист стал членом Якутского комитета общественной безопасности. Затем он возглавил Якутский совет; с июля 1917 работал в Московской военной организации РСДРП(б). В дни октябрьского переворота Ярославский — член Московского партийного центра по руководству вооруженным восстанием, член Военно-революционного комитета, первый комиссар Кремля. После переворота большевика-ленинца ожидала бурная карьера партийного деятеля: В 1918–1919 гг. он уполномоченный ЦК по проведению мобилизации в Красную армию. В 1919–1922 — председатель Пермского губкома, член Сибирского областного бюро ЦК РКП (б), в 1921 секретарь ЦК партии.
Когда выяснилось, что новым вождем будет Сталин, Ярославский стал его ярым сторонником. В июле 1931 года обратился к нему за разрешением написать книгу «Сталин». Но генсек ответил: «Еще не пришло время». На XVII съезде ВКП(б) заявил: «Товарищ Сталин был наиболее зорким, наиболее далеко видел, наиболее неуклонно вел партию по правильному, ленинскому пути». Ярославский написал большое число работ по истории партии и революции, руководил переделкой истории по заказу Сталина, участвовал в подготовке «Краткого курса КПСС» фальсифицированной истории партии. Он написал книгу «О товарище Сталине», полную неприкрытой лести.
В 1923 г. вышла его книга «О религии». Хрущев вспоминал, что «Ярославского называли „советским попом.“» Ярославский стал одним из главных инициаторов, и организаторов травли в печати Церкви, верующих и священников. С 1922 г. он председатель Центрального совета Союза воинствующих безбожников. Он несет основную ответственность за массовые репрессии против верующих, за повсеместное разрушение храмов и осквернение святынь. Он был редактором журналов «Безбожник», «Безбожный крокодил», «Безбожник у станка», которые состояли из оскорбительных карикатур, стихов и статей. Например, один из рисунков изображал, как Бог вдувает Адаму душу через клистирную трубку. Одновременно «Безбожник» печатал «директивы» партийных лидеров, например: «…выселение богов из храмов и перевод в подвалы, злостных — в концлагеря» (Бухарин). Под руководством Ярославского издавалось множество антирелигиозных брошюр, святотатственных плакатов и открыток. Британский парламент запретил ввозить в свою страну «Безбожника» как аморальное издание.
Террорист, сделавшийся фальсификатором истории и главным официальным советским богоборцем, похоронен на Красной площади. Именем его названы улицы в Перми и ряде других городов России.
