Напуганный нависшим над ним «дамокловым мечом» Иван Мазепа еще энергичнее повел переговоры со Станиславом Лещинским и Карлом XII, закончившиеся заключением с ними тайных договоров. Мазепа предоставлял шведам для зимних квартир укрепленные пункты в Северщине, обязывался доставлять провиант, склонить на сторону Карла запорожских и донских казаков, даже калмыцкого хана Аюку.
Осенью 1708 года Петр I пригласил Ивана Мазепу присоединиться с казаками к русским войскам под Стародубом; гетман медлил, ссылаясь на свои болезни и смуты в Малороссии, вызванные движением Карла XII на юг и его предложениями. В то же время он совещался со старшинами, примкнувшими к нему, и вел переговоры с Карлом через Быстрицкого и дипломатические речи с Александром Меншиковым через Войнаровского.
Меншиков решил навестить якобы больного Мазепу. Опасаясь разоблачения, Мазепа с гетманской казной бежал в конце октября с левого берега Десны к Карлу, стоявшему лагерем на юго-востоке от Новгорода-Северска, в Горках. С Иваном Мазепой было 1 500 казаков. Из шведского лагеря гетман написал письмо Скоропадскому, стародубскому полковнику, разъясняя причины своего перехода и приглашая старшину и казаков последовать его примеру.
К шведам, кроме отряда Ивана Мазепы, позднее присоединилась часть запорожского войска под началом кошевого атамана — Константина Гордиенко в количестве до 7 тысяч человек.
По приказу царя Петра I Запорожская Сечь была уничтожена. 156 запорожцев (атаманов и казаков) были казнены, причем несколько человек были повешены на плотах для устрашения других запорожцев.
8 апреля 1709 года Карл XII и Иван Мазепа заключили формальный договор (фиксирующий, по всей видимости, прежние договоренности, частично уже исполненные, а частично уже невозможные), в котором, в частности, даровалось последнему пожизненное звание «законный князь Украины». В обмен на этот титул Иван Мазепа обещал среди прочего передать Карлу XII «на время войны и опасностей» города Стародуб, Малин, Батурин, Полтаву и Гадяч. Уже накануне разгрома «высокие договаривающиеся стороны» поделили Россию между собой: «Все, что завоюется из бывшей территории Московщины, будет принадлежать на основании военного права тому, кто этим завладеет».
Однако Иван Мазепа осознал свою ошибку почти сразу после своего перехода к шведам. Покинутый своими полковниками, предвидя разгром шведов, он безуспешно пытался предложить Петру I предать в его руки шведского короля и его генералов. Уже в конце ноября 1708 года, менее чем через месяц после перехода, миргородский полковник, будущий гетман Даниил Апостол, один из самых близких Мазепе людей, прибыл с этим предложением к Петру. Следом с письмами Мазепы приехали Шишкевич, цирюльник Войнаровского, и полковник Галаган. Было даже заключено соглашение с гарантиями безопасности Мазепе, но тем все и кончилось. Гетман не был нужен окружению русского царя. Последний больше не доверял Ивану Мазепе.
