1110~1120년경 예루살렘에서 몇몇 기사가 순례길을 지키겠다며 수도사처럼 서약하고 모였다. 옛 성전 터 근처에 본부를 두어 성전 기사단(템플 기사단)이라 불렸다. 원래 순례자 병원을 운영하던 구호 기사단(병원 기사단)도 점차 군사 조직이 되었다.
기사단원은 결혼하지 않고 청빈과 복종을 맹세한 수도사이면서 동시에 전사였다. 이들은 크라크 데 슈발리에 같은 거대한 성을 지키며 십자군 국가의 가장 믿을 만한 병력이 되었다. 유럽 곳곳에서 기부받은 땅과 돈으로 부유해졌고, 성전 기사단은 순례자의 돈을 맡아 주는 등 은행과 비슷한 일도 했다.
12세기 말에는 독일계 튜턴 기사단도 생겼다. 그러나 성지를 잃은 뒤 성전 기사단은 막대한 재산을 노린 프랑스 왕 필리프 4세의 공격을 받아 1312년 해산되었다. 구호 기사단은 로도스섬, 이후 몰타섬으로 옮겨 이어졌고, 튜턴 기사단은 발트해 연안으로 활동 무대를 옮겼다.