Сам гетьман весною 1704 р. на чолі всього свого війська (40 тисяч козаків) вирушив у Правобережну Україну для виконання наказів Петра І та Августа II приборкати магнатів — прибічників Станіслава Лєщинського. Але Іван Мазепа, зайнявши козацькими військами Київщину й Волинь, а в наступному році — Поділля й Галичину, дійшовши аж до Сандомира, здійснював, як уже зазначалося, свою давню мету, свою національну програму — об'єднання обох частин України. Фактично він став гетьманом усієї України і вживав титул — «гетьман обох сторін Дніпра».

Водночас 17-тисячний український корпус під проводом полковників Апостола та Мировича за розпорядженням Мазепи приєднався до саксонських військ Августа й діяв разом із ними проти шведів на Познанщині. Козаки Апостола розбили шведські частини Лейбнгельма й захопили у полон 300 шведів. Козаки Мировича брали участь у здобутті Варшави.

Однак Карл XII продовжував діяти досить успішно. Він знову розгромив військові сили Августа, а його самого вигнав із Польщі й переніс війну на територію Білорусії і Литви, а потім і Саксонії. Литовські магнати й шляхта в масі своїй переходили на бік шведів, визнаючи Станіслава Лєщинського, який третього вересня 1705 р. був проголошений польським королем.

Цар, намагаючись затримати просування шведів, викликав Мазепу з козацьким військом. 14 тисяч козаків привів український гетьман до Мінська, де їх поставили залогою, а також у Слуцьку, Несвіжі, Ляховичах. Шведам і тут посміхнулося військове щастя. Вони взяли Несвіж, у боях за який загинув стародубський полковник Міклашевський. Після довгої облоги шведи здобули Ляховичі, де потрапив у полон переяславський полковник Мирович.

У 1706 р. Карл XII вирішив остаточно покінчити з Августом Саським. З головними своїми військовими силами Карл вирушив до Саксонії, рідної спадщини Августа, й окупував її аж до Лейпціга. Августу нічого не залишилося, як почати переговори, в результаті яких був укладений сепаратний мир 14 вересня 1706 р. зі шведським королем. Август розірвав свій союз із Москвою, зрікся польської корони на користь Станіслава Лєщинського, увільнив своїх підданих від присяги йому на вірність. Карл XII дістав змогу повернути всі свої збройні сили проти останнього члена антишведської коаліції — царя Петра.

Восени 1708 р. шведський король вирушив із Польщі через Литву і Білорусію на Московщину. Варто зазначити, що напередодні 1707 р. Мазепа остаточно утвердився в думці: для врятування України необхідно заздалегідь розірвати з Москвою (розгром котрої тоді здавався неминучим) і шукати забезпечення самостійності України через союз зі Швецією. Ще раніше український гетьман установив контакти зі шведським королем через довірених посередників. Робилося це з надзвичайною обережністю. Докладно передати перебіг цих подій, особливо початок, неможливо через брак достовірних історичних джерел.

У жовтні 1705 р. спробу встановити з українським гетьманом союзні відносини зробив Станіслав Лєщинський. Його представник привіз офіційний проект союзу за підписами польського короля та канцлера. Мазепа, після допиту з тортурами, відправив цього представника разом із проектом договору в Москву. В листі до Петра він повідомляв, що вже було чотири спроби намовити гетьмана на розрив із царем. Але, запевняв гетьман царя, він «залишається непохитним, як гранітна скала, супроти всіх спокус». Насправді, Мазепі союз із польським королем був ні до чого, оскільки гетьман завжди непримиренно ставився до панування поляків в Україні. А якось у розмові з французом Балюзом, якого приймав у батуринському палаці, Мазепа заявив, що «польська корона йде за прикладом давнього Риму до занепаду». Його цікавив тільки Карл XII.

У березні 1706 р. в Білорусії чернець передав Мазепі шифроване послання близької довіреної особи княжни Дольської, в якому повідомлялося, що Карл XII направив гетьману свого листа. Через деякий час, уже в Києві, Мазепа одержав нового листа, де повідомлялося, що шведський король обіцяє підтримати Мазепу на Волині, й він може розраховувати на всю шведську армію, отже, гетьман може приступати до виконання свого плану. Незабаром йому буде надісланий договір за підписом Карла XII й Станіслава Лєщинського.

4 липня до Києва приїхав цар з Меншиковим. Розійшлася чутка, що Карл XII іде на Україну. Цар наказав своєму улюбленцю підготувати для відсічі кінноту, а Мазепу поставив під його командування. Володар України відчув себе ображеним, приниженим і скривдженим. Меншиков, якого цар нагородив титулом князя, прагнув стати українським гетьманом. Проте Мазепа не виявив своїх почуттів, і цар та Меншиков продовжували вважати гетьмана «одиноким серед старшин вірним цареві».

Під час бенкету Меншиков напідпитку завів розмову з Мазепою про те, що оскільки царські війська в Києві, нарешті слід розправитися з «нашими ворогами», маючи на увазі старшину. Мазепа відповів, що «небезпечно починати нову війну, внутрішню, поки не покінчили із зовнішніми ворогами», але зробив так, щоб присутня старшина чула цю розмову. Потім гетьман своїм старшинам сказав: «Скрізь проливаємо свою кров — у Лівонії, Польщі, Литві, в Криму, Туреччині. Й навіщо? Вся ваша нагорода — це образи, приниження, а тепер хотять нам ще забрати останки нашої свободи... Господи, змилуйся над нами, не дай їм виконати наміченого плану». Це був натяк, але старшина вже впевнилась, що їхній гетьман противник царської політики в Україні, яка викликала чимраз більше нарікань та обурення серед усього українського народу.

Будівництво