Однако военные неудачи меченосцев не оставляли времени для долгих размышлений: на кону стояли все завоевания немцев в Ливонии. Так, в 1236 г. после прибытия в Ливонию особенно большого числа крестоносцев магистр ордена меченосцев Вольквин предпринял осенний поход на Литву. Опустошая всё на своём пути, он проник в глубь её территории. На обратном пути немцы подверглись внезапному нападению литовцев и соединившихся с ними земгалов, попали в окружение и все погибли вместе со своим магистром. После этого поражения восстали курши и сааремасцы. Тогда остальные меченосцы отправили посла в Рим, который представил папе беспомощное состояние самого ордена, а также ливонской Церкви и настоятельно просил его соединить остатки ордена меченосцев с орденом Тевтонским. Признав обоснованность и целесообразность такой просьбы, папа Григорий IX утвердил слияние орденов буллою от 14 мая 1237 г. При этом были оговорены три условия такого соединения: 1) Тевтонский орден вступает во владение землями, принадлежавшими меченосцам; 2) Тевтонский орден признаёт себя вассалом местных епископов; 3) часть Эстляндии, которую меченосцы отняли у датского короля, должна быть возвращена Дании.
Таким образом, меченосцы прекратили своё существование, а все их земли перешли к Тевтонскому ордену, составив его Ливонскую провинцию (другими провинциями ордена были Сицилия, Германия и Пруссия). Шестьдесят рыцарей тевтонского ордена были отправлены в Ливонию, где учредили ливонскую ветвь Тевтонского ордена — Ливонский орден. Ливония была обустроена по образцу прусской провинции, получила своего провинциального магистра Германа Балке, свой провинциальный капитул, своих орденских командоров и фогтов.
Ливонский орден признал, по крайней мере на словах, свою зависимость от местных епископов. Но поскольку в Пруссии, одинаковое устройство с которой получила и Ливония, орден был не зависим от местной духовной власти и епископы были ему подчинены в гражданском управлении, то вскоре провинциальные ливонские магистры стали тяготиться своим подчинением епископам и захотели перенять прусский порядок и в отношениях с духовной властью. Это явилось зародышем раздора между светской и духовной властью, между орденом и епископами и впоследствии вылилось в открытую вражду.
Орден выполнил и третье условие папы. 7 июня 1238 г. магистр Герман Бальке прибыл в Стенби (Дания) и совершил, в соответствии с существовавшими трактами, уступочный акт. По нему Эстония с Ревелем (впоследствии Эстляндская губерния Российской империи) отошла к Дании.
