Становище гетьмана в цих стосунках з Москвою ускладнювалось ще й тим, що до Москви постійно ішла велика кількість скарг та доносів на Мазепу, мовляв, той збирається передати Україну Польщі. У 1689 р. у Варшаві з'являється якийсь чернець, що передає королеві листи нібито від самого гетьмана, де той просить прийняти Україну назад до складу Польщі. У 1690 р. в Києві з'явилося "предметне письмо", в якому сказано, що І. Мазепа хоче віддати Україну Польщі. Хоча листи 1689 р. виявилися фальшивими і було доведено, що гетьманські регалії на них було підроблено, в 1691 р. думний дяк Українцев доручає генеральному писареві Кочубеєві таємно стежити за Мазепою. Але в той час І. Мазепа вів себе досить обережно і принаймні робив, вигляд вірного служіння Москві. Були навіть чутки, що гетьман продався цареві й хоче зруйнувати Січ.

На Запорожжі знову стає досить неспокійно. З усієї України на Січ починають сходитися люди, що розповідають про московське самодержавне свавілля. Визрівало велике повстання, бракувало лише організатора. І такий лідер знайшовся. Ним став військовий канцелярист Петро Іваненко (Петрик), якого повсталі проголосили своїм гетьманом. Він прийшов на Січ у 1692 р. і підняв запорожців проти Москви. Це повстання було досить швидко і жорстоко придушене. Сам Іваненко втік до татар і вже від них звертався з листами до запорожців, в яких закликав до нових повстань, але тепер вже треба було заручитися допомогою татар. Ці заклики збурили не тільки Запорожжя, але й усю Україну. Люди почали масово втікати на Січ. Тоді сильно занепокоїлась козацька старшина. Відомі листи до Мазепи з проханням щось зробити із міським свавіллям. Саме Запорожжя також не було одностайним: одні підтримували заклики Іваненка, інші підтримували московський уряд (Москва щороку присилала на Запорожжя гроші). І. Мазепа писав кошовому, щоб той і надалі зберігав вірність Москві. Кошовий відповідав, що Запорожжя на Москву не піде, але Хмельницький укладав мир з Москвою на рівних правах, тому вимагав у гетьмана, щоб той заступився за народ України і не допускав свавілля Москви на українських землях.

Тим часом Петрик як гетьман повсталих підписав договір з Кримом, згідно з яким землі Київські і Чернігівські разом з Військом Запорозьким створять самостійну державу. Далі він пішов з ордою до Запорожжя. Зустріч Іваненка з запорожцями відбулася в Кам'янім Затоні, фортеці неподалік від Січі. Кошовий не погодився йти за Петриком, але дозволив йти всім охочим. Таких набралося близько трьох тисяч. Вони проголосили Петрика гетьманом. Той видав універсал, звернений до всього народу, де писав, що хоче визволити Україну з-під Москви і наказував готуватися до боротьби. У відповідь І. Мазепа висилає на Іваненка п'ять полків, а сам з іншими п'ятьма йде слідом; крім того, він висилає гінця до Москви, щоб та прислала ще й своє військо. Вислані вперед полковники повідомляли, що деякі міста перейшли на бік Петрика. Його похід міг перерости в загальнонародне повстання, але закінчилося все надзвичайно несподівано. Татари ніколи не були добрими союзниками. І тепер також вони несподівано кинули все — Іваненко залишився один. Він пішов назад з ордою і осів у Перекопі.

Подібна історія повторювалася ще декілька разів. Перший — відразу після зміни хана в Криму. Тоді Петрик Іваненко дійшов аж до Полтави, але знову, майже без битв, повернувся назад. Ще раз Петрик з'являється в Україні в 1695 р. І знов він був проголошений гетьманом, знов видавав універсали, але і цього разу татари не підтримали його. І. Мазепа пообіцяв тисячу карбованців тому, хто вб'є Петрика Іваненка. І такий знайшовся. Якийсь Вечірченко наздогнав Петрика й проколов його списом, але винагороди так і не отримав, бо сам був тоді убитий.

В той час Україна була втягнута у постійні війни Москви. За наказом царя 5 тисяч козаків під командуванням генерального осавула Ломиківського йдуть на штурм Очакова. Козаки держали сторожу у фортеці на річці Самарі. Після того всього відбувається новий штурм Очакова. Лизогуб і 20 тисяч козаків йдуть на Вужаки за Дніпро. Відбувся і похід на Перекоп. Будувалися укріплення на р. Синюха. Мазепа з козацьким військом активно підтримував Петра І в Азовському поході.

Під час першого штурму Азова Петро І особисто віддав наказ І. Мазепі брати все військо козацьке і йти під Азов. Чернігівський полковник Яків Лизогуб пішов на байдарках Дніпром, а гетьман з рештою війська — степом. Козаки за час цього походу взяли 14 міст, а сам Петро — нічого. Як пише тогочасний літописець; "Государь царь Петр Алексеевич с войском ходил под Азов, но не взял, токмо каланчу".

Наступного року цар розпочав новий похід на Азов. Проаналізувавши минулорічну поразку, Петро І вирішив основну частину роботи покласти на плечі гетьмана з козацтвом. 17 червня українські полки першими ввійшли в місто. Там закріпились, додавши власні гармати, цілу добу обстрілювали Азов. Турки не витримали такого масового вогню і здали місто. Петро І на радощах поїхав до Москви святкувати перемогу, а утримувати Азов доручив гетьманові. Ще два роки І. Мазепа з козаками тримали на собі турецький натиск, аж поки турки не підписали з Москвою тридцятирічний мир.

Не встигли козаки повернутися з походу, як цар знову віддає наказ готуватися до війни. Петрові І потрібен був вихід до Балтійського моря, якого Москва ніколи до цього часу не мала.

Гетьман добре розумів, що Україна, яка витерпіла спустошливу Кримську кампанію, не в стані витримати ще одну війну. На той момент вже не було ні економічних, ні військових сил, достатніх для досконалого ведення війни. Але Петро І основні надії в цій війні мав саме на Мазепу з козацьким військом.

Мазепа писав цареві: "...От уже 11 літ вершиться війна з Кримом і всі війська московські йдуть через нашу землю. Люди терплять, бо їм топчуть трави й хліб, витинають і випалюють байраки. Гінці безперестанно їздять не тільки з царськими грамотами, а й з воєводськими листами, требують від жителів собі корму і пиття, а ні — то б'ють і безчестять навіть старшину козацьку. Хоч і є царський указ без царської грамоти і гетьманських проїзжих листів нікому нічого не брати, але на то ніхто не дивиться і знати того не хоче...".

Московські воєводи дійсно, в прямому значенні слова, грабували Україну. Були випадки, коли царські війська вимагали зустрічати їх зі всіма почестями, а отримавши те, що просили, грабували поселення, палили хати, забирали з собою всі харчі й худобу, доходило навіть до того, що забирали в полон самих людей. Якщо якесь місто відважувалося протистояти воєводському свавіллю — вимуштрувані московські війська просто стирали це місто з лиця землі.

На той час Мазепа був гетьманом вже дванадцять років. За цей час козацьке військо здійснило одинадцять літніх і десять зимових походів. І похід проти Швеції був майже неможливий для України. На Україні був голод — люди їли хліб наполовину з лободою. Саме після того, як цар Петро І прислав гнівну відповідь на лист гетьмана з вимогою негайно йти воювати, Мазепа вперше задумався над становищем України. Гетьман думав про це не сам, його підтримувала майже вся старшина, але для виступу проти Москви ще не настав час.

Незадоволення народу московськими порядками перекинулося і на козацьке військо. Відомо щонайменше 10 конфліктів між козацькими загонами і московськими військами. Найкривавіший був у м. Пскові. Сотня козаків намагалася закупити фураж у місцевого населення і розрахуватися "чехами", які отримували від царського уряду за службу. Проте московські люди відмовилися приймати "чехи". Козаки звернулися до московського управителя тих земель, мотивуючи, що є закони, як постановив сам уряд самодержавної Москви. Але і тут їм було відмовлено. Тоді козацький загін відмовився підпорядковуватися московському командуванню. У відповідь проти них було вислано стрілецький полк. Сорок козаків було втоплено або вбито, у решти забрали зброю і коней. Козаки скаржилися на це самому Шереметьєву, але він нічого не зробив. Більше того, звинуватив у всьому самих козаків.

З того часу у листах гетьмана до царя постійно бачимо неприязне ставлення. Мазепа не виступав відкрито проти царської волі, але й вже не підкорявся їй так, як раніше.

Зростало незадоволення і на Січі. Запорожці прямо відмовилися приймати присягу на вірність цареві, поки не буде знесено всіх фортець навколо Січі. Більше того, в одному із листів до гетьмана була пряма погроза піти на Батурин і вбити його за те, що він підтримує