Die sogenannte Palmsonntagsprozession in Heiligenstadt, die alljährlich zu Beginn der Karwoche Tausende Teilnehmer und Besucher aufweist, hat, historisch betrachtet, mehrere Wurzeln.

Ausgangspunkt dürfte eine mittelalterliche Prozession gewesen sein, die, wie vielerorts bis heute üblich, am Karfreitag stattfand. Der Leidensweg Christi wurde zur Förderung der Passionsfrömmigkeit dargestellt. Auch Reste eines mittelalterlichen Osterspiels könnten eine Basis für diese Prozession sein. Denn parallel zur Prozession werden nur am Palmsonntag Palmsonntagsschachteln (Spanschachteln) zum Kauf angeboten, die durch ihre runde oder ovale Form an Ostereier erinnern und mit Süßigkeiten gefüllt, zu Ostern an Kinder verteilt werden.

Der Jesuitenorden, der in Regionen, die evangelisch geworden waren, eine Gegenreformation förderte, hat durch eine spezielle Pastoral und Frömmigkeit entscheidend zur Umgestaltung unterschiedlicher Frömmigkeitsformen beigetragen. Aus Segensprozessionen wurden Barockprozessionen, und dieser Prozessionstyp behält mit wichtigen Elementen Gültigkeit bis heute. Zunächst wurden nur die Leidenswerkzeuge mitgeführt, später kamen szenischen Darstellungen hinzu, und schließlich wurde daraus eine Figuralprozession.

Außer dem großem Kreuz trug man fünf weitere überlebensgroße Figuren, die in das Prozessionsgeschehen eingeordnet wurden, durch die Straßen Heiligenstadts. Hinzu kamen Lieder und Choräle, die nach festgelegtem Turnus gespielt und gesungen wurden. Bis auf den Wegfall der szenischen Darstellungen hat sich bis heute kaum etwas am Ablauf geändert, auch wenn 1773 mit dem Verbot des Jesuitenordens die eigentlichen Akteure samt der die Prozession gestaltenden Schüler der Collegien verschwanden. An die frühere Beteiligung der Jesuitenschüler erinnern bis heute Heiligenstädter Gymnasiasten (Gymnasiastinnen), die als Grabesritter fungieren.

Die Kontinuität dieses beeindruckenden Glaubensbekenntnisses blieb, nun getragen durch den Stadtklerus, bis heute erhalten. Wann genau sich die einzelnen Entwicklungsphasen zeitlich fassen lassen, kann nur ungefähr bestimmt werden. 1581 berichten die Jesuiten erstmals von Innovationen der Prozession, seit 1638 sind Schüler der Collegien (Sodalitäten) beteiligt und ab 1705 scheinen sechs Figuren mitgeführt worden zu sein.

Zur eigentlichen Palmsonntagsprozession wurde sie 1734, als sie auf den „Palmsonntag vorverlegt“ wurde. Zweifach sind die genannten Gründe: 1. Größere wirtschaftliche und finanzielle Einnahmen für die Stadt; 2. Geistliche Vorbereitung auf Ostern durch die Möglichkeit der Osterbeichte auch für alle Gäste.
 
Im 19. Jahrhundert scheinen keine liturgischen und organisatorischen Veränderungen stattgefunden zu haben. Acht bis zehn Stunden nahmen zu dieser Zeit Pilger in Kauf, um an der Prozession teilnehmen zu können. Den beiden totalitären, kirchenfeindlichen Systemen des 20. Jahrhunderts war die Prozession ständiges Ärgernis.
 
1943 wurden die Gymnasiasten, die als Grabesritter die Figur des Hl. Grabes begleiteten, in eine Straflager überführt und zum Fronteinsatz befohlen, wo zwei von ihnen starben. Im gleichen Jahr berichtete ein „Beauftragte des Führers für die Überwachung der gesamten geistigen und weltanschaulichen Schulung und Erziehung der NSDAP“: „Die Besucherzahl der Palmsonntagprozession verdient - eine be-sondere Erwähnung. Während 1938 — also im Frieden — 2400 Personen teilnahmen, wurden diesmal 4500 geschätzt.
Ein großer Teil kam von den Dörfern nach Heiligenstadt, doch war auch die Teilnahme aus der Stadt größer.“Ähnlich beobachtet wurden Prozession und Teilnehmer zu DDR-Zeiten, wobei steigenden Teilnehmerzahlen den Staat und seinen Sicherheitsapparat besonders beunruhigten. Prozessionen wurden so auch zum Ausdruck resistenten Verhaltens gegenüber dem Staat. Bis zu 25 000 Teilnehmer sollen es sogar 1959 gewesen sein. Heute schwanken die Zahlen zwischen 5000 und 8000. Seit 2000 nehmen die evangelische Pfarrer des Eichsfeldes an der Prozession teil.

Einmalig ist diese Prozession in Deutschland (die traditionelle Lohrer Karfreitagsprozession, die in Vielem der Heiligenstädter Prozession ähnelt, hat 13 Bilder, findet aber Karfreitag statt).
 
Der Dichter Theodor Storm, in Heiligenstadt als Amtsrichter tätig, hat in seiner Novelle „Ve-ronika“ 1861 die Palmsonntagsprozession beschrieben; Heinrich Heine soll von Göttingen aus die Prozession als Zuschauer besucht haben.