Fue fundada en 1118 o 1119 por nueve caballeros franceses liderados por Hugo de Payns tras la Primera Cruzada. Su propósito original era proteger las vidas de los cristianos que peregrinaban a Jerusalén tras su conquista. La orden fue reconocida por el patriarca latino de Jerusalén Garmond de Picquigny, que le impuso como regla la de los canónigos agustinos del Santo Sepulcro.