И все-таки не столько угрозы отлучения, сколько умелое использование бесчисленных политических противоречий раздробленного феодального мира — противоречий между императорами и герцогами, между императорами (как германскими, так и византийскими) и норманнами — позволяли папе успешно проводить свою политику.
Особенно упорной была дипломатическая борьба Григория VII с императором Генрихом IV. В Германии среди крупных феодалов было много противников могущественной императорской власти. Епископы, архиепископы, привыкшие в течение долгих лет получать от императора все новые привилегии, готовы были теперь изменить Генриху IV, поскольку возможности императорской власти иссякли и у них не было надежды ожидать в будущем новых благодеяний с ее стороны. Теперь «дальний покровитель» им казался менее опасным, чем близкий. Все это ослабляло позицию Генриха IV в Германии.
Папа добивался права назначать епископов и таким образом вмешиваться во внутренние дела империи; он преследовал «симонию» (фактическую продажу церковных должностей императорами) и так называемую светскую инвеституру (возведение в епископский сан императором) Генрих IV всеми силами отстаивал эти права императора не только в Германии, но и во всей Священной Римской империи. Если Григорий присвоил себе право низводить императоров с трона, то Генрих считал себя вправе низлагать пап.
Он так и поступил, низложив папу на Вормсском сейме 1076 года. Причем его послание Григорию VII заканчивалось энергичным «ступай вон!».
Месяц спустя уже Григорий VII низложил Генриха на Латеранском соборе, разрешив «всех христиан» от клятвы верности императору и запретив «служить ему как королю».
После того как германские князья присоединились к папе, положение Генриха стало безвыходным: в 1077 году император был вынужден отправиться в Италию, чтобы просить; прощения у всесильного Григория VII.
История свидания в Каноссе обросла легендой, и теперь нелегко отделить факты от вымысла. Стоял ли Генрих в течение трех суток босой на снегу перед воротами замка, дожидаясь, пока папа соизволит его принять, или он ожидал этого приема в более комфортабельной обстановке — это не меняет дела. Григорий VII заставил его в присутствии аббата из Клюни, олицетворявшего преданное папству монашество, и графини Матильды Тосканской, самого могущественного феодала средней Италии, признать себя неправым, «отказаться от гордыни» и смириться перед церковью. Григорий VII одержал победу над королем и «светским духом», получившую в дальнейшем свое документальное выражение в 27 статьях «Диктата папы».
