Уже после отъезда Кагановича в Москву Чубарь, выступая на объединенном заседании Политбюро ЦК и Президиума ЦКК КП(б)У, таким образом характеризовал обстановку, созданную Кагановичем в партийном руководстве Украины: «Взаимное доверие, взаимный контроль у нас нарушались, так что друг другу мы не могли верить… Вопросы решались за спиной Политбюро, в стороне… Эта обстановка меня угнетает» (Там же. Ф. 1. Оп. 145а. Ед. хр. 99. С. 101—103.).
Масштабы оппозиции Кагановичу на Украине возрастали. К Сталину приезжали Г. И. Петровский и В. Я. Чубарь с просьбой отозвать Кагановича с Украины. Сталин вначале сопротивлялся, обвиняя своих собеседников в антисемитизме. И все же ему пришлось в 1928 году возвратить Кагановича в Москву. Но это вовсе не свидетельствовало о недовольстве Сталина его работой. Наоборот, Каганович снова стал секретарем ЦК ВКП(б) и вскоре был также избран членом Президиума ВЦСПС. Он должен был составить противовес руководству М. П. Томского в профсоюзах.
В самом конце 1929 года был отпразднован юбилей Сталина. 21 декабря большая часть восьмистраничного номера «Правды» была посвящена его 50-летию. Ничего подобного прежде еще не бывало. То был значительный шаг к грядущему культу. Среди многих статей о Сталине (Куйбышева, Калинина и других) выделялись и были гвоздем выпуска две: статья Ворошилова «Сталин и Красная армия» и Кагановича «Сталин и партия». Как известно, в идейных спорах у Сталина бывали в прошлом ошибки и просчеты, бывали и серьезные разногласия с Лениным, и это для очень многих не составляло секрета. Каганович в своей статье «отутюжил» биографию Сталина до идеально гладкого образа: «Самой замечательной и характерной чертой т. Сталина является именно то, что он на протяжении всей своей партийно-политической деятельности не отходил от Ленина, не колебался ни вправо, ни влево, а твердо и неуклонно проводил большевистскую выдержанную политику, начиная с глубокого подполья и кончая всем периодом после завоевания власти» (Правда. 1929. 21 дек.). В данном случае Каганович сыграл ту роль, которую он часто и охотно брал на себя в дальнейшем: он произнес – и сделал официально установленным – то, что хотелось бы, но неудобно было произнести от первого лица самому Сталину.
В начале 1930 года Каганович стал первым секретарем Московского областного, а затем и городского комитетов партии, а также полноправным членом Политбюро ЦК ВКП(б).
Летом 1930 года перед XVI съездом партии в Москве проходили районные партийные конференции. На Бауманской конференции выступила вдова В. И. Ленина Н. К. Крупская и подвергла критике методы сталинской коллективизации, заявив, что эта коллективизация не имеет ничего общего с ленинским кооперативным планом. Крупская обвиняла ЦК партии в незнании настроений крестьянства и в отказе советоваться с народом. «Незачем валить на местные органы, – заявила Надежда Константиновна, – те ошибки, которые были допущены самим ЦК».
