У 1704 р. Петро І відсилає все козацьке військо на чолі з Мазепою до Польщі. Попереду йде 3000 козаків під командуванням Апостола. Загін Апостола підпорядковується на місці царському посланцеві — німцеві Паткулю. Паткуль почав муштрувати козаків на німецький лад, учив їх німецькому військовому строю. Хоча й козацьке військо було досить організованою армією, але німецькі порядки дуже сильно відрізнялися від звичних козакам. За непокору Паткуль мало не повісив сотника Родзянка, який відважився сказати, що козаків таким премудростям потрібно навчати щонайменше півроку. Апостол надіслав гетьманові листа, в якому скаржився, що козацьке військо зазнає великої наруги з боку Паткуля; у вояків позабирали коней і провізію, майже голих і босих женуть у бій, якщо таке буде продовжуватися, то козаки, навіть під страхом смертної кари, розбіжаться. Паткуль відпустив козаків без коней, відібравши їх для свого німецького гарнізону. Зазнавши декілька поразок від шведів, в тому загоні вціліло близько 80 чоловік.

У 1705 р. Мазепа отримав наказ скерувати козаків на Волинь, потім на Брест, а потім наказ іти самому на Садомир і відіслати у Литву відділ козацького війська. Мазепа йшов Галичиною і 14 серпня був під Львовом. Новий король Станіслав Лещинський чотири рази присилав до Мазепи листи, в яких досить прозоро натякав на допомогу у звільненні з-під московської тиранії. Гетьман всі ці листи відіслав Петрові І.

Мазепа послав під Ригу прилуцького полковника Горленка. І ось що той писав: "...Панове полковники драгунські з полками своїми стоять по селах, а козакам не дозволяють не тільки в селах ставати, але й випросити корму в села не пускають, а як хто піде, то драгуни б'ють...". Писав і П. Орлик, що козакам дають хліба вдвічі менше, ніж московським військам, не дають круп, сала, м'яса, солі. Козацькі коні знесилені від піврічної роботи, а козаки всі голі й босі. Про наругу над українським народом неслися до гетьмана листи і з України.

Коли цар сподівався приходу короля Карла XII із шведською армією на Україну, він виставив проти нього корпус війська на чолі із Меншиковим. Мазепі ж Петро І наказав стати під командування Меншикова. Цар ще раніше грозився нагородити Мазепу титулом "князь Римської імперії", з козацьких полків зробити загони драгунів, з українських земель викроїти князівство для герцога Мальборо, а гетьманську булаву віддати Меншикову. Останню крапку у списку терпіння козацької старшини було поставлено у Києві під час візиту Петра І. Меншиков прилюдно, при всій старшині, заявив, що вже пора перевішати їх усіх і найкращий момент — це негайно, поки тут цар з усім своїм військом. Гетьман, який вже зважився на союз із шведами, побачив, що матиме підтримку.

Петро І вирішив будувати фортецю у Києві. Коли почали її закладати, зруйнували багато дворів, повирубували багато садів, а людей просто вигнали на вулицю і наказали іти жити, куди хочуть. Жодної компенсації московський уряд не надав. Будувати фортецю примусили козаків за їхні ж кошти. Роботи тривали 5 місяців. Над козаками цар приставив німецького полковника Гейнса із московськими стрільцями.

Тим часом армія Карла XII отримувала одну перемогу за іншою. Петро І шукав підтримки по всій Європі. Відбулася велика зустріч між урядовцями Польщі та Росії у Жовкві. Мазепу також було туди запрошено, але не для поради, а для того, щоб повідомити йому рішення Петра І віддати Польщі Правобережжя, скасувати козацьке військо. Цар сказав це Мазепі 20 квітня на великій військовій раді. Гетьман після ради не пішов на вечерю до царя і, нічого не повідомивши, розпустив козацьку старшину. Старшина дізналася про ці царські плани не від гетьмана, а з інших джерел. Звістка про близький кінець їх дуже схвилювала. Проводилися таємні ради в обозного Ломиковського і в миргородського полковника Апостола. Назрівав великий бунт. І коли пізно вночі Мазепа отримав перший лист від польського короля Станіслава, ставленика шведського, він вирішив стати на бік Карла XII.

Частина військової старшини, незалежно від Мазепи, теж вирішила, що теперішня історична хвиля — єдина для звільнення України від Москви. Прилуцький полковник Горленко, лубенський Зеленський, миргородський Апостол і військовий обозний Ломиковський вже порозумілися між собою і лише думали, як умовити Мазепу. Перша ж спроба переговорів показала: гетьман думає про те, що і старшина. Але кожна велика ідея має свого зрадника. Таким виявився генеральний писар Кочубей. Він написав донос із 32-х пунктів про зраду гетьмана і старшини. Щоправда, з того нічого не вийшло: московський уряд не повірив Кочу-беєві й Іскрі (колишньому полтавському полковнику) і засудив їх до страти. Після їхньої смерті донос був ліквідований. Кочубея підтримували сотник Ковалько, піп Святайло і вихрест Яненко. їх наказано було взяти на муки і покарати батогами.

Тим часом шведський король все ж таки скерував свої війська на Україну. Цар Петро І наказав Мазепі об'єднатися з московськими військами. Мазепа зібрав нараду, на якій було вирішено не йти на це, а надіслати листа Кардові XII, аби він не пустив московських військ на Україну. Гетьман не поїхав сам, повідомивши про хворобу, і послав лише частину козаків. З листом до короля Швеції все відтягувалося, аж поки не напосіла старшина. В листі було прохання прийняти український народ під свою протекцію. Шведський король передав усно, що буде коло річки Десни 22 жовтня. Темп подій все пришвидшувався, і гетьман вирішив їхати на зустріч до Карла XII. Він залишив Батурин сердюцькому полковникові Чечелю з чотирма його полками та частиною полків Лубенського, Миргородського й Прилуцького. Сам гетьман взяв з собою 5000 козаків, стільки ж поставив по правий бік Десни. Але то не були свідомі повстанці. То не були люди, які йдуть на смерть за ідею, то були "солдати". Козакам досі нічого не сказали про зв'язок Мазепи зі шведами. Офіцери готували революцію, а солдатам про це нічого не сказали. Думали, що досить тільки наказати, як солдат послухає, і справа революції буде звершена. У цьому і полягає головна помилка ініціаторів тієї справи. Лише в останній момент перед шведським військом Мазепа проголосив козакам про своє рішення. Не вся й старшина пішла за Мазепою. Серед його прихильників відомі такі особи:—

з генеральної старшини: обозний Ілля Ломиківський, суддя Семен Чуйкевич, писар Пилип Орлик, осавул Антін Горленко, хорунжий Іван Сулима, бунчужний Дмитро Максимович, племінник Мазепи Андрій Войнаровський, бунчуковий товариш Федір Миронович, Клим Довгополенко, Григорій, Іван і Афанасій Герцики, Федір Нахимовський, Федір Третяк, Антін Гамалія, Семен Лизогуб;.—

з канцелярії: писарі Михайло Ломиковський, Яків Гречаний, Іван Максимович та канцеляристи Антонович і Григорович;—

полковники: київський Мокієвський, прилуцький Горленко з зятем Бутовичем, лубенський Зеленський, миргородський Апостол, компанейські Гнат Галаган та Кожуховськнй, сердюцький Яків Покотило, усі з своїми полками, яким навіть не сказано, куди вони ідуть.

Перша офіційна зустріч Мазепи і шведського короля відбулася 29 жовтня, причому гетьманові з огляду на його літа (на той час Мазепі вже було 70 років) було дозволено сидіти, а король його слухав стоячи.

Мазепа ж був у той час у Ромнах. Знищення Батурина подіяло на старшин гнітюче. Старшина почала боятися московського гніву і тікати до Петра І. Першими втекли до царя Апостол, Сулима, Галаган, Гамалія, Кандиба, Антонович. Всіх їх цар прийняв і не тільки повернув їм колишні посади, а й возвисив. Зате кожного, хто підозрювався в прихильності до Мазепи, хапав, піддавав катуванням, а потім вбивав.

Єдиним позитивним моментом був перехід на бік Мазепи запорозького кошового Костія Гордієнка. 315 000 запорожців він вітав гетьмана в Диканьці. У той же час був підписаний договір з королем Швеції, в якому Карл XII присягав піти на мир з Москвою лише за умови, що Україна відокремиться від Москви і стане незалежною державою. Коли не було Гордієнка, на Січ прийшли полковник Яковлев з Ґалаґаном. Вони запевнили козаків, що цар не хоче зробити Україні нічого поганого, а Мазепа — зрадник українських та козацьких інтересів. І козаки повірили.

27 червня 1709 р. відбулася фатальна для тогочасної України Полтавська битва.

Сили були нерівні: Петро мав 50 000 вояків та 72 гармати, шведів було не більше 25 000 тисяч, а більша частина їхню артилерії загинула під Лісною, крім того, бракувало