Несмотря на это в 1228 году Фридрих отправился в крестовый поход, ставший его личным и династическим делом ввиду его притязаний на Иерусалимское королевство. На Востоке у него были дружеские связи с египетским султаном Эль-Камилем. Путем дипломатических переговоров с мусульманскими властями Фридрих достиг, несмотря на противодействие папских представителей, очень почетного мира на десять лет и выгодных условий. Дипломатическим путем Фридриху удалось получить то, чего тщег-но добивались крестоносцы силой оружия. В силу соглашений 18 февраля 1229 года Иерусалим (за исключением мечети), Назарет, Вифлеем, Сидон и вся местность, через которую пролегала пилигримская дорога от Яффы к Иерусалиму, были переданы султаном Фридриху, и свобода богослужения была предоставлена во всех этих местах как христианам, так и мусульманам. Правда, это было достигнуто ценой важных уступок — Фридрих обязался не помогать палестинским христианам в их борьбе с египетским султаном, в руках которого остались укрепленные пункты Палестины. В храме Гроба Господня Фридрих сам возложил на себя корону Иерусалимского королевства без всякого церковного обряда.
Однако папа не хотел и слышать о мире, в котором признавалось равенство «неверных» с христианской церковью, наложил поэтому интердикт на Иерусалим и запретил пилигримам посещать «святые места». Григорий IX всеми средствами возбуждал против Фридриха палестинских феодалов, особенно духовно-рыцарский орден тамплиеров; венецианцы по наущению папы напали на владения Фридриха в Сирии. Мало того, папа двинул в Сицилию три армии, солдаты которых получили название «солдат-ключей» (на их знаменах был изображен «ключ от неба»).
Под руководством жестокого воина Иоанна Бриенского и кардинала Пелагия из АльбаНо они стали теснить сицилийцев. Несмотря на первые успехи и на то, что на призыв участвовать в этом своеобразном крестовом походе откликнулись церкви во Франции, Англии и Португалии и стали посылать папе деньги и воинов, «солдаты-ключи» терпели поражение.
Вернувшись в Италию, Филипп к концу 1229 года очистил от папских наемников не только Северную и Центральную Италию, но и южную часть страны. Победа эта привела к тому, что с Фридриха была снята анафема и он был возвращен в лоно церкви.
В 1230 году в Сан-Джермано между папой и императором был заключен мир. Материальных выгод Фридрих II от своей победы не получил и даже вынужден был вернуть захваченные им земли в Папской области, возместить убытки защитникам папы и уплатить штраф. Кроме того, он взял на себя обязательство не облагать в дальнейшем духовенство, не судить королевским судом представителей духовенства и не оказывать давления на исход выборов епископов и аббатов. Однако папство не имело повода для торжества. Фридрих утвердился в Северной Италии и создал вокруг Папской области кольцо имперских владений.
