니케아 제국은 망명 국가 가운데 가장 잘 버텼다. 1261년 7월 니케아의 장군이 수비가 빈 틈을 타 콘스탄티노폴리스에 들어갔고, 황제 미하일 8세 팔라이올로고스가 수도로 돌아왔다. 그가 연 팔라이올로고스 왕조는 1453년까지 이어졌고, 이 시기 코라 수도원의 모자이크 같은 뛰어난 예술도 나왔다.
그러나 되찾은 제국은 좁았고, 14세기에는 황제 자리를 놓고 내전이 거듭되었다. 1347년에는 흑사병이 콘스탄티노폴리스를 덮쳤다. 그사이 아나톨리아 서북부에서는 1300년 무렵 오스만 1세가 이끄는 작은 튀르크 세력이 일어나, 1326년 부르사를 빼앗고 1354년 갈리폴리를 차지해 유럽으로 건너왔다.
오스만은 1360년대 아드리아노폴리스(에디르네)로 수도를 옮기고 1389년 코소보 전투에서 세르비아를 꺾으며 발칸반도를 차지해 나갔다. 비잔티움은 콘스탄티노폴리스와 그 주변, 그리스의 일부만 남은 채 오스만에 공물을 바치는 처지가 되었다. 1402년 중앙아시아의 정복자 티무르가 앙카라에서 오스만 술탄을 사로잡으면서, 비잔티움은 잠시 숨 돌릴 틈을 얻었다.