Согласно Постановлению был разработан и в 1935 году утвержден ЦК ВКП(б) и СНК СССР Генеральный план реконструкции Москвы. Но реконструкция началась гораздо раньше. Возводились многочисленные общественные здания различного назначения, сооружались магистрали и мосты, Москва-река обзаводилась гранитными набережными. С 1932 года началось строительство метрополитена, в котором приняли участия едва ли не все заводы Советского Союза, на стройку со всей страны съезжались добровольцы. Уже в 1935 году стала действовать его первая очередь.
Вслед за Генеральным планом реконструкции Москвы были утверждены «Основные установки для разработки Генерального плана развития Ленинграда». На основании этих планов стали реконструироваться и другие города Советского Союза. Вся страна превратилась в строительную площадку. Ничего подобного не знало ни одно государство в мире.
Естественно, что в этот период очень возросла значимость зодчего-творца. Но в среде архитекторов все еще существовали группировки, которые вели борьбу друг с другом: каждая отстаивала свою концепцию нового пролетарского зодчества. Чтобы положить конец слишком большому разнообразию взглядов на искусство, борьбе группировок и амбициям в творческой среде, ЦК партии принял 23 апреля 1932 года постановление «О перестройке литературно-художественных организаций». Были ликвидированы группировки в области искусства, литературы и архитектуры, возникли единые творческие Союзы, создан, в частности, Союз советских архитекторов, ответственным секретарем которого был избран Алабян. Мержанов стал одним из его первых членов, а позднее — председателем правления фонда Союза архитекторов СССР.
Его первые шаги в должности Главного архитектора ЦИК совпали с проведением в 1931–1933 годах Всесоюзного конкурса на проект Дворца Советов. Этот конкурс, по определению специалистов — историков архитектуры, стал вехой, знаменовавшей поворот к переменам «в стилевой направленности советской архитектуры».
Было задумано спроектировать и возвести небывалых размеров сооружение, главное здание столицы, вмещающее конференц-зал на 20 тысяч мест, театр на 6 тысяч зрителей и другие помещения. Оно должно было стать памятником эпохи строительства социализма. «В качестве рекомендации участникам конкурса было указано, что „поиски должны быть направлены к использованию как новых, так и лучших приемов классической архитектуры“. Этот программный принцип был принят в качестве основы не только при проектировании данного объекта, но и во всем архитектурном творчестве 30-х годов».
