Путь Марвана к вершине власти начался на суровых границах империи. В 732 году он возглавил Армению и Азербайджан, сменив на этом посту Масламу ибн Абдул-Малика. Здесь он стал полулегендарной фигурой. Его правление на Кавказе началось с решения застарелых проблем, прижимистый халиф Хишам годами не платил жалование местным гарнизонам, что едва не привело к восстанию армянских нахараров. Марван, проявив дипломатическую гибкость, помог Ашоту III Багратуни выбить долги из Дамаска, чем обеспечил себе лояльность армянской конницы.
Именно кавказский опыт убедил Марвана в том, что старая арабская военная система, основанная на племенном ополчении, изжила себя. Он провел радикальную военную реформу: ввел систему постоянного жалования всем воинам. Командование над армией было передано кадровым офицерам вместо племенных вождей. Вместо громоздких фаланг Марван создал компактные, мобильные полки («курдус»), способные быстро маневрировать в горах.
С этим новым войском он в 737 году прошел через «Аланские ворота» (Дарьяльское ущелье) и нанес сокрушительный удар по Хазарскому каганату, достигнув мест, куда раньше не доходил ни один арабский полководец.
Смерть Хишама и последующее убийство аль-Валида II в 744 году погрузили халифат в пучину междоусобиц. Марван II долго сохранял лояльность законной власти, но, когда Дамаск пал под натиском мятежника Йазида III, а затем власть перешла к Ибрахиму, Марван решил действовать.
Его марш на Дамаск был стремительным. В битве при реке Нахр аль-Джарр он применил военную хитрость, пока основные силы сковывали врага, отряд лесорубов соорудил мост, позволивший коннице атаковать фланг Сулеймана ибн Хишама. В декабре 744 года Марван вступил в Дамаск. Поскольку наследников аль-Валида II уже не осталось в живых (их убили в тюрьме сторонники прежнего режима), Марван ибн Мухаммад был провозглашен халифом.
Марван II принял власть над миром, который разваливался на части. Его положение осложнялось тем, что он, будучи предводителем северных племен (кайситов), настроил против себя южные группировки (кальбитов), традиционно доминировавшие в Сирии.
Хариджиты стали самой страшной угрозой для нового халифа. В 745 году они захватили Куфу и Мосул. Ад-Даххак ибн Кайс собрал армию в 20 тысяч бойцов, к которой присоединился даже принц-омейяд Сулейман ибн Хишам, окончательно деморализовав династию.
Решающее сражение произошло под Кафр-Тусой. Бой был настолько ожесточенным, что хариджиты прорвались к самой ставке халифа и повалили его шатер. Марвану пришлось спасаться бегством, но его дисциплинированные полки, обученные на Кавказе, не дрогнули. Под руководством сына халифа, Абдаллаха, и при поддержке тысяч вооруженных рабов, хариджиты были окружены и перебиты. Лишь к весне 747 года Ирак был временно очищен от мятежников.
Пока Марван тушил пожары в центре, на Востоке ситуация стала необратимой. В Хорасане столкнулись интересы двух вождей — Насра ибн Саййара и аль-Кирмани. В этот хаос вернулся хариджитский вождь аль-Харит ибн Сурайдж. Мерв превратился в арену бесконечных уличных боев, где союзники менялись ежедневно, а вожди гибли один за другим.
Этим вакуумом власти воспользовались Аббасиды. В июне 747 года их проповедник Абу Муслим открыто поднял черные знамена.
К 749 году шииты и аббасидские сторонники захватили Куфу. Новым халифом был провозглашен Абу-ль-Аббас ас-Саффах. Марван II собрал последние силы Сирии и Месопотамии для решающего удара.
25 января 750 года в битве на реке Большой Заб произошла катастрофа. Марван II потерпел сокрушительное поражение. В водах реки погибли сотни членов семьи Омейядов. Халиф бежал через Сирию и Палестину в Египет, надеясь собрать там новую армию, но был настигнут и казнен в августе 750 года. Со смерть Марвана II власть Омейядов перешла к Аббасидам, которые были халифами на протяжении 500 лет.
