Le origini storiche dell'Ordine sono in parte oscure, sebbene secondo una tradizione non documentata risalgano alla Prima Crociata. Infatti, la prima testimonianza documentale di un'investitura di Cavalieri denominati “del Santo Sepolcro” risale a 1336. Da questa prima testimonianza dell'esistenza dell'Ordine, ossia dal XIV secolo, i papi espressero gradualmente e regolarmente il loro desiderio di annettere giuridicamente l'organizzazione alla Santa Sede.

L'Ordine Equestre del Santo Sepolcro di Gerusalemme ha sempre beneficiato della protezione dei Papi che, nel corso dei secoli, lo hanno riorganizzato, ampliandone e arricchendone i privilegi. Clemente VI affidò la custodia del Santo Sepolcro ai frati francescani nel 1342, ma ciò avveniva ancora in un'epoca in cui solo i Cavalieri avevano il diritto di creare altri membri dell'Ordine. Alessandro VI si dichiarò supremo moderatore dell'Ordine nel 1496 e delegò ai francescani il potere di conferire il cavalierato a nobili e gentiluomini pellegrini in pellegrinaggio in Terra Santa (potere di investitura). La conferma di questo privilegio francescano, sia verbalmente che tramite Bolla papale, fu rinnovata da Papa Leone X nel 1516, da Benedetto XIV nel 1746, fino al ripristino del Patriarcato Latino di Gerusalemme da parte di Pio IX nel 1847.

Così la delega pontificia fu trasferita al Patriarca quando, nel 1868, Pio IX emanò lettere apostoliche che annunciavano il ripristino dell'Ordine. L'Ordine dei Cavalieri si aprì con la nomina delle Dame del Santo Sepolcro grazie a Leone XIII, nel 1888. Inoltre, nel 1907 Pio X decise che il titolo di Gran Maestro dell'Ordine sarebbe stato riservato al Papa stesso.

Nel 1932 Pio XI approvò la nuova Costituzione e permise a Cavalieri e Dame di ricevere l'investitura nei loro luoghi d'origine e non solo a Gerusalemme. Nel 1940, Pio XII nominò un cardinale Protettore dell'Ordine e centralizzò l'organizzazione a Roma, come parte del Gran Magistero, trasferendo il titolo di Gran Maestro al Cardinale Canali. Giovanni XXIII approvò la nuova Costituzione presentata dal Cardinale Tisserant nel 1962.

Con il rinnovamento del Concilio Vaticano II, una nuova Costituzione fu approvata da Paolo VI nel 1977. In seguito a ciò, Giovanni Paolo II fece dell'Ordine un personalità giuridica canonica e pubblica, costituito dalla Santa Sede. Oggi l'Ordine cerca di raccogliere l'impegno dei suoi membri nelle chiese locali, nella speranza della loro santificazione. Questa è la ragione essenziale e profonda che ha motivato la revisione della Costituzione durante la “Consulta” svoltasi nel 2013.