Мазепа пропонував Палію згідно з царським указом миритися та уступати полякам, а водночас до Москви писав: «Не можу брати гріха на душу та привітними запевненнями намовляти Палія, Самуся та Іскру до послуху, а опісля віддавати їх полякам у неволю. Я не можу запевняти їх, що вони остануться цілі й неушкоджені, як у своєму здоров'ю, так і в маєтках. Поляки не тільки над козаками, але й надо всім українським народом, що опинився під їхньою владою, по-тиранськи поводяться. Це ж показали їхні недавні діла на Придністрянщині й на Побужжі, де вони мстилися за народне повстання, багатьох карали смертю, вішали, кидали на цвяхи або саджали на кіл...»

Повстання було придушене поляками, хоча їм довелося подолати відчайдушний опір, перебороти героїчну оборону. Загинуло десять тисяч при обороні Ладижина, тисячі покарано на смерть. Тільки Палій тримався у своїй Білій Церкві. Польський гетьман Синявський прохав Мазепу допомогти йому в боротьбі з повстанцями. Але український лівобережний гетьман надавав допомогу своїм землякам, рятував козаків від репресій. Він прийняв у себе Самуся, котрий віддав йому свої гетьманські клейдони.

Весною 1704 р. Мазепа одержав наказ Петра йти з усім своїм військом углиб Польщі, щоб підтримати союзника царя — польського короля Августа II. Польща тоді розділилася на дві партії. Значна частина магнатів перейшла на бік Станіслава Лєщинського, якого згодом Карл XII посадив на престол.

Для Мазепи настав слушний час здійснити давній намір, свою заповітну мрію — об'єднати всю Україну під своїм проводом. З 30-тисячною козацькою армією він перейшов Дніпро, зайняв Київщину й Волинь і вирішив звідти не відступати. За проханням царя Петра й короля Августа Мазепа розправився з магнатами, прибічниками Станіслава Лєщинського, подолавши їхній збройний опір.

Свою головну квартиру Мазепа розмістив у Бердичеві. її часто відвідував Семен Палій, якого Мазепа завжди зустрічав якнайкраще. Водночас йому було треба виправдатися перед царем Петром і королем Августом, легітимувати своє військове утвердження на Правобережжі. Щоб закріпити свій політичний успіх, лівобережний гетьман вирішив пожертвувати Палієм, хоч їх і об'єднували патріотичні почуття до України, спільна політична мета. Цар велів узяти Палія під варту і негайно відправити в Білу Церкву, замість нього полковником призначити Михайла Омельченка.

Першого серпня Семен Палій прийшов до головної квартири Мазепи. Його прийняли бенкетом. Вночі, коли полковник міцно заснув, його схопили й силоміць вивезли до Батурина, а звідти вислали до Москви. За зв'язки з прихильником Лєщинського Любомирсьиим Палія звинуватили у шведофільстві й заслали до Сибіру.

Деякі дослідники пояснювали усунення Палія Мазепою їхньою взаємопротилежною соціальною політикою. Мазепі не до вподоби був демократизм Палія, який встановив у своїй «палієвій державі» порядки, близькі до ладу Запорозької Січі. Крім того, він ворогував із українською шляхтою. Вважали навіть, що Мазепа вбачав у фастівському полковникові можливого суперника — претендента на гетьманську булаву. У всякому разі народна пісня засудила віроломство Мазепи щодо Палія, зробивши акцент на моральному сенсі цієї події. Палій виступає в пісні як народний герой, «козацький батько».

У жовтні 1704 р. Мазепа, залишивши на Правобережжі козацькі загони, повернувся до Батурина як справжній володар України. Він уживав титул — «Гетьман обох сторін Дніпра».

Менш за все висвітлено в літературі полководницьке мистецтво Івана Мазепи. Дехто з істориків навіть намагався стверджувати, що Мазепа не був добрим вояком, показав себе поганим стратегом і недосвідченим військовим керівником, ухилявся від битв, вважав за краще посилати замість себе наказних гетьманів. Однак такі твердження не відповідають дійсності. Ще в юні роки він прилучився до вивчення військової справи. Посланий королем Яном-Казимиром для навчання за кордон. Мазепа на кошти мецената краківської академії Новодворського спеціально вивчав гарматну справу у Франції і Голландії, оволодів майстерністю виробництва гармат. Товаришував з ним майбутній полковник артилерії Мартин Катський.

Юнаком Іван Мазепа брав участь у війні зі шведами. Він добре знався на зброї, зібрав у Батуринському палаці численну й цінну її колекцію, організував у Батурині ливарню для вироблення гармат.

На чолі однієї з кращих європейських армій того часу — козацького війська — Мазепа провів багато походів, здебільшого успішних. Наприкінці XVII ст. він писав царю: «За 12 літ з початку свого гетьманства я зробив 11 літніх і 10 зимових походів».

Під час так званого «першого азовського походу 1695 р.» цар Петро І з 35-тисячним військом, серед якого було й кілька козацьких полків, ціле літо здобував турецьку фортецю Азов, закидавши її кільканадцятьма тисячами великих бомб, але так і не взяв її. З наближенням осінньої пори він змушений був відступити. Водночас гетьман Іван Мазепа на чолі козацького війська, до якого приєднався боярин Б. П. Шереметєв із допоміжним московським кінним і пішим військом, діяли за наказом царя в пониззі Дніпра — здобували турецьку фортецю Казикермен.

За описом козацького літописця Самійла Величка, об'єднані війська підійшли до неї на світанку 24 липня. Гетьман наказав українським козацьким полкам і сердюкам підступити до її стін. Вони пройшли сади передмістя, розбили й загнали назад до Казикермена турецький загін, що намагався стримати натиск козаків. Неподалік від стін Казикермена козаки поробили шанці й залягли