Походив з відомого правобережного українського шляхетного роду Мазеп-Колединських.

Закінчив Києво-Могилянський колегіум, Єзуїтську колегію у Варшаві, протягом трьох років навчався у Німеччині, Італії, Франції, Голландії. Грав на бандурі, захоплювався мистецтвом, колекціонував зброю, був талановитим поетом. Вільно володів польською, італійською, німецькою, французькою, татарською, латинською мовами.

Тривалий час служив при дворі польського короля Яна ІІ Казимира. В 1663-му повернувся в Україну. Вступив на службу до гетьмана Петра Дорошенка (1669), виконував важливі дипломатичні місії. Згодом став довіреною особою гетьмана Івана Самойловича.

Починаючи з 1676 р., І. Мазепа практично щороку їздив з дипломатичними місіями до Москви.   Він, виконуючи настанови гетьмана, переконував російських урядовців передати слобідські полки під управління Гетьманщини, не підписувати Вічного миру, який узаконював поділ України, ділився міркування про економічні нововведення в автономії, давав поради, як краще організувати оборону Києва від ординців тощо.  У ході переговорів у Посольському та Малоросійському приказах батуринський дипломат мав зустрічі з царями, передавав їм дипломатичну пошту від І. Самойловича

Після обрання гетьманом (1687) прагнув об’єднати українські землі в єдиній державі, відродити авторитет гетьманської влади. Припинилася громадянська війна («Руїна»), розпочалося економічне відродження країни, зміцнився міжнародний імідж України.

Спрямовував чималі кошти на церковне та цивільне будівництво в Києві, Чернігові, Батурині, Переяславі, Глухові. Фінансував будівництво Києво-Могилянської академії та Чернігівського колегіуму. Власним коштом збудував 12 нових храмів, ще 20 відреставрував, дарував церквам дорогоцінні речі (зокрема – Пересопницьке Євангеліє, на якому присягають нинішні українські президенти). Відстоював інтереси українського православ’я в суперечках із верхівкою Московського патріархату.

Для оборони південних рубежів побудував Новобогородицьку та Ново-Сергіївську фортеці.

Прагнення Івана Мазепи розширити автономію Гетьманщини йшли врозріз із політикою російського царя Петра І.

Під час Північної війни уклав угоду зі шведським королем Карлом ХІІ, за якою Швеція мала забезпечити звільнення України з-під влади Москви за допомогу українців у війні проти московитів. Звідтоді всіх українців, що брали участь у національно-визвольному русі, росіяни зневажливо називали «мазепинцями»

Мазепа подобався жінкам. Однак після одруження з вдовою Ганною Фридрикевич прожив із нею майже 35 років, а по її смерті опікувався двома своїми пасинками. 

Після поразки в Полтавській битві (17 червня 1709-го) відступив у Бендери (Молдова), де й помер у ніч на 22 вересня 1709-го.