В 1914 году Яков Блюмкин примкнул к партии социалистов-революционеров, участвовал в создании нелегального студенческого кружка. После февральского переворота был эсеровскаим агитатором в Одессе, Харькове, Поволжье. В январе 1918 года вступил добровольцем в матросский «Железный отряд» и вскоре стал его командиром, участвовал в боях с войсками украинской Центральной рады. В марте 1918 года отряд Блюмкина вливается в 3-ю Украинскую советскую армию, а сам он становится сначала ее комиссаром, а затем помощником начальника штаба.
В мае 1918 года Блюмкин откомандировывается в Москву в распоряжение партии левых эсеров, которая входила в состав первого советского правительства. Вскоре по соглашению с РКП(б) партия направляет его в ВЧК, где Блюмкину поручается организовать отделение для борьбы с международным шпионажем. В связи с установлением дипломатических отношений с Германией и открытием 23 мая 1918 года в Москве германского посольства Блюмкину поручается разработка его персонала. По подозрению в подрывной работе против Советской России Блюмкин арестовывает графа Роберта Мирбаха, брата посла. Левые эсеры, недовольные Брестским миром и установлением дипломатических отношений с Германией, 4 июля 1918 года принимают решение убить германского посла Вильгельма Мирбаха, и это должно было послужить сигналом к восстанию в Москве.
Убийство посла было возложено на Якова Блюмкина. Он, используя свое служебное положение в ВЧК, изготовил фальшивое удостоверение о том, что ему поручаются переговоры с германским послом по делу, имеющему к нему непосредственное отношение. Подпись Ф. Дзержинского на удостоверении также была подделана, а настоящую печать ВЧК на документ поставил заместитель Дзержинского — левый эсер Ксенофонтов. 6 июля 1918 года Блюмкин и его сообщники явились в германское посольство и, предъявив удостоверение, потребовали личной аудиенции у посла под предлогом необходимости обсудить вопрос, связанный с арестом его брата. Мирбах согласился. В самом начале беседы Блюмкин и пришедший с ним фотограф ВЧК Андреев открыли стрельбу. Германский посол был убит, а его сотрудники ранены. Воспользовавшись возникшей суматохой, террористы выскочили через окно во двор посольства и скрылись на автомобиле.
В Москве началось восстание эсеров. Был арестован и Ф.Э. Дзержинский, который вступил в переговоры с мятежниками. Через два дня эсеровский мятеж был подавлен. Блюмкин и Андреев бежали на Украину. 27 ноября 1918 года Верховный революционный трибунал рассмотрел дело левых эсеров. Блюмкин был заочно приговорен к тюремному заключению сроком на три года с применением принудительных работ. 16 мая 1919 года он явился в ВЧК с повинной и был амнистирован.
