동프랑크의 오토 1세는 955년 레히펠트에서 마자르족을 물리쳐 명성을 얻었고, 962년 로마에서 교황에게 황제관을 받았다. 이렇게 독일과 북이탈리아를 묶은 제국은 훗날 신성 로마 제국이라 불리게 된다(‘신성’이라는 이름은 12~13세기에 붙었다).
당시 주교와 수도원장은 넓은 땅을 다스리는 실력자였기에 황제는 이들을 직접 임명하려 했다. 교황 그레고리우스 7세는 교회 개혁을 내세워 세속 군주의 임명(서임권)을 금지했고, 황제 하인리히 4세가 반발하자 1076년 그를 교회에서 파문했다.
독일 제후들이 등을 돌리자 하인리히 4세는 1077년 1월 눈 덮인 알프스를 넘어 카노사 성 앞에서 사흘 동안 용서를 빌었다. 이 사건은 ‘카노사의 굴욕’으로 유명하지만, 다툼은 그 뒤에도 이어져 1122년 보름스 협약으로 겨우 타협되었다. 이 싸움은 교회 권력과 왕권이 서로 다른 영역이라는 생각을 키웠다.