После смерти отца в 1481 году Баязиду пришлось сражаться за власть со своим младшим братом Джемом, который также претендовал на трон. Джем, потерпев поражение, бежал к рыцарям-госпитальерам на Родосе. Они, а затем и Папа Римский, держали его в плену, надеясь использовать в борьбе против османов. Однако Баязид, чтобы нейтрализовать угрозу, платил большие суммы как рыцарям, так и Папе, чтобы те удерживали его брата. В конечном итоге, Джем умер в плену, по одной из версий, от отравления по приказу Баязида.
В отличие от своего отца, который постоянно вёл войны, Баязид II был известен своим стремлением к миру и внутренней стабильности. Он сосредоточился на укреплении государства, что позволило ему подготовить почву для будущих завоеваний своих преемников.
Несмотря на своё миролюбие, Баязид II проводил военные кампании для укрепления влияния империи. Его правление было отмечено войнами с Венгрией, Польшей, Венецией, Египтом и Персией.
Баязид II провёл несколько кампаний в Морее, которые укрепили османское господство в Восточном Средиземноморье. В результате четырёхлетней войны, которая длилась с 1499–1503 года в результате, которой он победил венецианские силы и захватил всю южную Грецию. Завоевание последних венецианских владений в Далмации также обеспечило стратегические позиции для будущих походов в Венгрию.
На Востоке Баязид установил полный контроль над Чёрным морем, захватив его восточное побережье в 1501 году. Он также сталкивался с конфликтами с мамлюками в Сирии и Египте, а также с новой династией Сефевидов в Иране, но не доводил их до открытых войн.
Одним из самых примечательных событий правления Баязида II было его отношение к религиозным беженцам. В 1492 году, когда испанская инквизиция изгнала из страны евреев и мусульман, Баязид II направил свой флот под командованием адмирала Кемаль-реиса в Испанию.
Он эвакуировал тысячи беженцев и предоставил им убежище на османских землях. Он высмеял испанских монархов, Фердинанда II и Изабеллу I, за то, что они «обедняют свою собственную страну и обогащают мою» лишением её таких полезных граждан. Мусульмане и евреи из Аль-Андалуса внесли значительный вклад в экономическое и культурное развитие Османской империи, принеся новые идеи, технологии и ремёсла. Например, первая типография в Константинополе была открыта именно сефардскими евреями в 1493 году.
Последние годы правления Баязида II были омрачены борьбой за престол между его сыновьями Селимом и Ахметом. В 1509 году, после сильного землетрясения в Константинополе, эта междоусобица обострилась. Ахмет захватил Караман, стремясь к столице. Опасаясь его, Селим поднял восстание во Фракии. Поддержанный янычарами, Селим вернулся из Крыма и заставил своего отца отречься от престола 25 апреля 1512 года.
Баязид II умер 26 мая 1512 года, всего через месяц после отречения, по дороге в Дидимотику. Предполагается, что он был отравлен. Он был похоронен рядом с мечетью, которую построил в Стамбуле, оставив своему преемнику Селиму I сильное и внутренне стабильное государство, готовое к новым великим завоеваниям.
