И Троцкий, и Сталин имели своих сторонников и последователей в партии. Высокомерный Троцкий, назвавший впоследствии Сталина «выдающейся посредственностью», недооценил его изощренный интеллект и организаторские способности. В результате Сталин, используя в борьбе за власть свое положение генерального секретаря партии, а также личные амбиции членов Политбюро ЦК ВКП(б) Зиновьева и Каменева, сумел к 1925 году свести влияние Троцкого в партии к минимуму. В январе 1925 года пленум ЦК ВКП(б) освободил Троцкого по собственному желанию от должности председателя Реввоенсовета, а 23 октября 1926 года на объединенном пленуме ЦК и ЦКК ВКП(б) его вывели из состава Политбюро.
В начале лета 1926 года Троцкий объединился в единый блок с Зиновьевым и Каменевым, которые были недовольны укреплением позиций Сталина в партии и государстве. Сторонники Троцкого создали в Москве конспиративный центр «объединенной оппозиции». Его возглавили сам Троцкий и Зиновьев. Работа центра велась достаточно активно. Лидеры центра проводили подпольные заседания, имели своих людей в ЦК ВКП(б), в ряде Наркоматов, а также среди представителей высшего военного руководства. Центр создал даже специальную группу в армии. В нее входили комкоры Примаков и Путна, расстрелянные в 1937 году как участники так называемого «заговора генералов». Имел своих сторонников Троцкий и в ОГПУ. Еще в 1923 году, когда он навязал партии дискуссию о роли профсоюзов, примерно 40 процентов чекистов голосовали за его платформу. Подобные конспиративные центры были также организованы в Ленинграде, Киеве, Харькове, Свердловске и других городах. Деятельность «объединенной оппозиции» вызывала серьезную озабоченность у сторонников Сталина, так как троцкисты все больше скатывались на антисоветские позиции.
Окончательную победу над Троцким Сталин одержал в 1927 году. В октябре Троцкого вывели из состава ЦК ВКП(б), а 14 ноября за организацию демонстрации оппозиции в Ленинграде в 10-ю годовщину Октябрьской революции исключили из партии. В декабре 1927 года XV съезд ВКП(б) завершил идейный разгром троцкизма.
Троцкий отказался признать свое поражение, и в январе 1928 года был сослан в Казахстан, в город Алма-Ату. Однако и в Казахстане он не прекратил активную оппозицию Сталину и борьбу с партией, рассылая телеграммы, письма и воззвания к своим скрытым сторонникам в ней. 16 декабря 1928 года Троцкому было передано требование коллегии ОГПУ «категорического обязательства прекращения контрреволюционной деятельности». В послании указывалось, что в противном случае он будет выслан за границу.
