А в это время в НКВД СССР на него уже собирали компрометирующие материалы. Многие из них так или иначе были связаны с именем одного из «заговорщиков» — Якира. В июне 1937 года в очередном доносе сообщалось, что некий «источник», дежуривший около зала заседаний ЦИК СССР, слышал в январе — феврале 1936 года, как Акулов по телефону сказал, что к нему должен зайти Якир, просил хорошо его встретить, предоставить комнату, чтобы он отдохнул, а вечером обещал прислать билет в театр. В другом донесении сообщалось, что Акулов не верил тому, что Якир враг народа, так как с ним у него была «тесная дружба».
Уже после ареста Акулова (в августе 1937 года) на закрытом партийном собрании секретариатов ЦИК и ВЦИК всплыли и другие «факты», о которых также было донесено в НКВД. В частности, сообщалось, что в кабинете Акулова «все время висел большой портрет Якира», что он «всячески выгораживал», звоня по вертушке в НКВД, и добился-таки освобождения из-под стражи арестованного органами внутренних дел своего шофера Захарова (он был также шофером у Каменева), что некий букинист Шишков находился с ним в «явочных тайнах», распространяя какую-то литературу. (Акулов любил читать. При обыске у него были опечатаны четыре огромных шкафа с книгами.)
Ордер за № 3541 на арест Акулова и обыск был выдан заместителем наркома внутренних дел 23 июля 1937 года. Безусловно, об этом знал Вышинский. В тот же день Иван Алексеевич был задержан на своей даче в селе Покровское Красногорского района. Четверо сотрудников госбезопасности в присутствии сторожа обыскали дачу. Затем они же произвели обыск в московской квартире Акулова по Троицкой улице, дом 10, особняк ЦИК СССР. При обыске были изъяты несколько револьверов и охотничьих ружей, личная и служебная переписка. Среди изъятых вещей оказались книги Б. Савинкова «Воспоминания террориста» и «Конь белый».
25 июля 1937 года И. А. Акулов собственноручно заполнил так называемую «анкету арестованного», в которой сообщил свои основные биографические данные. В то время на его иждивении находилась жена Надежда Исааковна Шапиро, трехмесячная дочь Елена, девятилетний сын Гавриил (Ганя, как звал его отец), ученик второго класса, и мать Мария Ивановна, 74 лет. С ним проживали также сестры: Анна Алексеевна и Мария Алексеевна.
Акулов был помещен в Лефортовскую тюрьму. Его делом занимались сотрудники госбезопасности А. А. Краев и Л. С. Альтман.
Первоначально его допрашивал Краев. Протокол не составлялся. 4 августа Иван Алексеевич в собственноручном заявлении на имя следователя Альтмана написал: «Вчера на допросе у следователя Краева я дал частичные показания (устно) о своем участии в троцкистской организации и подготовке антисоветского вооруженного переворота в стране. Эти мои показания были еще далеко не полными, но по существу полностью правдивыми. Сегодня я снова сдвурушничал и вместо того, чтобы продолжить показания о своей предательской деятельности, я заявил, что участником троцкистской организации не являлся... Утверждаю, что правде соответствует следующее: я, Акулов, являлся участником антисоветской троцкистской организации и подготовки антисоветского вооруженного переворота...»
