794년 간무 천황은 수도를 헤이안쿄(지금의 교토)로 옮겼다. 교토는 이후 1,000년 넘게 천황이 사는 수도로 남았다. 당이 혼란에 빠지자 894년 견당사 파견이 중단되었고, 일본은 들여온 문화를 자기 식으로 바꾸어 나갔다.
한자를 간단히 줄이거나 흘려 쓴 가나 문자가 널리 쓰였다. 특히 궁중 여성들이 가나로 뛰어난 작품을 남겼는데, 11세기 초 무라사키 시키부가 쓴 『겐지 이야기』는 세계에서 가장 오래된 장편 소설 가운데 하나로 꼽힌다. 세이 쇼나곤의 수필 『마쿠라노소시』도 이 시기 작품이다.
정치는 천황의 외척인 후지와라 가문이 섭정·관백으로 장악했다. 그러나 지방에서는 땅을 지키려고 무장한 무사(사무라이)가 성장했고, 12세기 후반 무사 가문인 다이라(헤이시)와 미나모토(겐지)가 중앙 정치까지 좌우하게 되었다.