Его ждало новое задание. В июле 1936 года в Испании генерал Франко возглавил фашистский мятеж против республиканского правительства. Помощь ему оказали фашистская Италия и национал-социалистическая Германия. 4 октября СССР открыто заявил о своей поддержке Испанской республики. В Испанию направили советскую военную технику, 2 тысячи советников, а также большое число военных специалистов. В ноябре подучивший испанский язык Семёнов выехал в Париж, а оттуда в Барселону (в том же месяце Комиссия партконтроля при ЦК партии, по ходатайству парторганизации Разведупра РККА, сняла с него все партийные взыскания, кроме выговора 1929 года).
Снова были востребованы умения бывшего эсеровского боевика в области индивидуального террора. Семёнову надлежало «пробраться в тыл мятежников и ликвидировать некоторых руководителей фашистского движения». С аналогичным заданием в Испанию была направлена сотрудница Разведупра Элли Бронина, жена арестованного в 1935 году в Шанхае резидента военной разведки Якова Бронина. А по линии внешней разведки, с помощью диверсантов-интербригадовцев и будущего знаменитого советского разведчика Кима Филби (бывшего в то время корреспондентом английских газет при штабе франкистов), такое покушение готовил представитель НКВД в Испании Александр Орлов-Никольский. Одним из руководителей разведывательно-диверсионной деятельности в Испании по линии военной разведки был бригадный комиссар Х. И. Салнынь, нелегальный резидент в Китае в 1926-1929 годах.
Опытный боевик и организатор покушения на Ленина, казалось, вот-вот нанесет решающий удар… но вместо этого «товарищ Андрей», осмотревшись на месте, начал с развёртывания широкого партизанского движения в тылу врага. Семёнов полагал, что массовая диверсионная деятельность принесёт в будущем больше пользы и, одновременно, создаст необходимые кадры для терактов против членов правительства. Позже, во время Великой Отечественной войны, такая тактика принесла богатые плоды, но в 1936 году в Москве ждали иного. Полагали, что Семенов организует что-то наподобие своего Центрального боевого отряда для индивидуального террора, и работу по организации партизанских отрядов расценили как самоуправство. В Испании он проработал всего три месяца. За это время его помощник, возглавлявший проведение диверсий, вместе с несколькими испанскими боевиками взорвал 5 вражеских поездов, но на последней операции погиб. В конце января 1937 года Семёнова отозвали в Москву, как он думал, для расследования обстоятельств гибели помощника. 11 февраля, прямо на перроне вокзала, его арестовали сотрудники НКВД.
