В начале марта 1919 года генерал-майор граф фон дер Гольц принял под свое командование «балтийцев» из Либау. Он был весьма энергичным человеком и — как можно было заключить из разговоров и служебной переписки — заклятым врагом большевиков. Поскольку это было возможно, учитывая характер этих отрядов ландскнехтов, Гольц установил в них твердый порядок. Когда в апреле прибыла вновь сформированная в Германии гвардейская резервная дивизия, началась подготовка к наступлению на Ригу, чтобы вернуть этот занятый Красной Армией город и его окрестности. Наступление было осуществлено в конце мая — начале июня 1919 года. На короткое время Рига была взята.
Через три недели город опять был сдан. Неудача под Ригой привела к серьезному временному кризису среди «балтийцев», тем более что это были дни принятия Версальского договора: западные державы требовали отвода немецких войск из Прибалтики.
Летом 1919 года в занятой немецким фрейкором Латвии появился авантюрист, называвший себя князем Аваловым-Бермонтом и сформировавший из русских контрреволюционеров крупные воинские соединения. Когда западные державы потребовали отвода немецких войск из Прибалтики, несколько тысяч «балтийцев» перешли под командование Авалова-Бермонта, так что германское правительство как будто лишилось всякого влияния на них. Граф фон дер Гольц и не думал об отводе войск. У него были далеко идущие планы. В своих докладных записках он нередко говорил о «будущей России», которая возникнет после свержения советского режима. Разумеется, он понимал, что одним «балтийцам» решить такую задачу не под силу, но полагал, что они могут создать предпосылки для этого, пусть даже весьма ограниченные. После новых поражений немецкие отряды в ноябре 1919 года перешли под немецкое командование и были вынуждены начать отход в Германию.
Однако они отказывались отойти на территорию Восточной Пруссии, пока им не будет выдано все, что положено, а главное — продовольствие. Чтобы переправить через границу один или два поезда с грузом, надо было «подмазать» нескольких таможенных чиновников. Поэтому обер-лейтенант Винценц Мюллер, теперь офицер «для поручений» начальника штаба командования Пограничной стражи «Север» полковника фон Тэра, был послан в Тильзит, чтобы передать некоему железнодорожному чиновнику небольшой чемодан, набитый пачками бумажных денег. Если мне память не изменяет, там было 100 тысяч марок в тогдашней валюте.
В декабре последние «балтийцы» перешли восточно-прусскую границу. Одни из них были размещены в померанских и мекленбургских помещичьих имениях и позднее составили часть вооруженных сил, участвовавших в путче Каппа. Другие присоединились к фрейкору в рейхе, в основном, к верхнесилезскому.
