Генрих Баварский обращался с германскими князьями надменно и во время итальянского похода вёл себя по отношению к ним как повелитель. Теперь, после смерти Лотаря, он столь же мало заботился об их дружеском расположении к себе, чем и вызвал у князей нежелание остановить на нём свой выбор. Совсем иначе вёл себя Конрад фон Гогенштауфен, который, участвуя в итальянском походе, сумел расположить к себе князей, в частности — архиепископа Трирского. Кроме того, князья ещё твёрдо памятовали недавно установленную в Германской империи свободу выборов, и всё дело было теперь в том, чтобы при выборах императора избежать малейшего намёка на право наследования престола. Родственные связи Генриха с Лотарем были, таким образом, лишним основанием, чтобы обойти его при выборах. Ко всему этому добавлялся также страх перед его превосходящими силами, которые в соединении с императорским титулом могли погубить свободу Германской империи.
Таким образом, теперь во всей государственной системе внезапно изменилось соотношение сил германских княжеских родов. Возвысившийся при прежнем государе род Вельфов, к которому принадлежал Генрих Баварский, вновь был принижен, а дом Гогенштауфенов, обиженный прежним государём, вновь одерживал верх. Как раз к этому времени умер архиепископ Майнцский, и выборы нового архиепископа обязательно должны были предшествовать выборам императора, ибо в них главную роль всегда играл архиепископ. Но все опасались, что многочисленная свита из саксонских и баварских епископов и светских вассалов, с которыми Генрих должен был явиться в день выборов, может дать ему большинство голосов, и поэтому поспешили (хоть и в нарушение правил) завершить избрание императора до прибытия Генриха. Выборы были проведены в Кобленце (в 1137 г.) под руководством архиепископа Трирского, который с особой благосклонностью относился к дому Гогенштауфенов; герцог Конрад был избран и сразу же в Аахене увенчан короной. Столь изменчивой оказалась судьба, что Конрад, которого папа при прежнем государе отлучал от церкви, теперь был предпочтён зятю того самого Лотаря, который так много сделал для римского престола. И хотя Генрих и все те князья, которые не были привлечены к выборам императора, громко роптали на эти незаконные действия — всеобщий страх перед чрезмерным усилением дома Вельфов и то обстоятельство, что папа высказался за Конрада, заставили недовольных замолчать. Генрих Баварский, в руках которого были королевские регалии, вернул их после некоторого сопротивления.
