Идеи Вышинского по структуре органов прокуратуры были конкретизированы в докладе Рогинского.
1936 год оказался для Прокурора Союза очень насыщенным. Вышинский без конца выступал в многочисленных аудиториях по самым разнообразным вопросам: на Московском областном съезде членов коллегии защитников, на совещании в прокуратуре Украинской ССР, на VIII съезде Советов.
Проводил он и некоторые нетрадиционные встречи. 31 августа принял у себя участников и организаторов большого перехода на весельных лодках по Волге. Семь активистов прокуратуры Кимрского района Калининской области С. И. Болозеров, А. А. Горячев, М. С. Андреянова, С. Н. Стрейбо, С. М. Буланов, Е. Н. Соколова и В. В. Жуков, рабочие-стахановцы Савеловского механического завода и обувной фабрики «Красная Звезда» в рекордный срок — за 25 дней — преодолели расстояние от Кимр до Астрахани. По пути они ознакомились с работой групп содействия прокуратур Горьковского, Куйбышевского, Саратовского, Сталинградского краев, республики немцев Поволжья и поделились собственным опытом.
Организаторы перехода, прокуроры Кимрского района В. С. Шеврыгин и Калининской области Л. Я. Назаров, а также все его участники были премированы ценными подарками.
С 20 августа по 1 сентября в Прокуратуре СССР была проведена первая Всесоюзная учебная конференция народных и старших следователей, а с 1 по 10 сентября — вторая конференция следователей военных, железнодорожных и водно-транспортных прокуратур. На них присутствовало 116 лучших следователей страны, большинство из которых имели стаж работы свыше шести лет. После конференции Вышинский провел совещание со следователями. В декабре того же года состоялась и третья конференция следователей.
5 ноября 1936 года Совнарком СССР утвердил представленную Вышинским новую структуру Прокуратуры Союза. Были ликвидированы производственные отделы (промышленный, по делам торговли, кооперации и финансов и другие). Новая структура состояла из 15 подразделений: Главной военной прокуратуры, Главной прокуратуры железнодорожного транспорта, Главной прокуратуры водного транспорта, отделов общего надзора, уголовно- и гражданско-судебных, следственного, по спецделам, по надзору за местами заключения и других. Непосредственно при Прокуроре СССР состояли прокуроры для особых поручений, следователи по важнейшим делам, инспектора и консультанты. Применительно к этой структуре должны были строить свои аппараты прокуратуры союзных и автономных республик, краев и областей.
