A metà dell'XI secolo, un'abbazia benedettina fu fondata a Gerusalemme dai mercanti di Amalfi. Circa 30 anni dopo, accanto all'abbazia fu fondato un ospedale per l'assistenza ai pellegrini malati e poveri. Dopo il successo della prima crociata nel 1099, il fratello Gerard (o Gerald), il superiore dell'ospedale, ampliò l'ospedale e istituì ulteriori ospedali lungo il percorso verso la Terra Santa.
Il 15 febbraio 1113, l'ordine fu formalmente chiamato Ospitalieri di San Giovanni di Gerusalemme e riconosciuto in una bolla papale emessa da Papa Pasquale II.
I Cavalieri Ospitalieri erano anche conosciuti come Ospedali, Ordine di Malta, Cavalieri di Malta. Dal 1113 al 1309 furono conosciuti come gli Ospitalieri di San Giovanni di Gerusalemme; dal 1309 al 1522 passarono per l'Ordine dei Cavalieri di Rodi; dal 1530 al 1798 furono il Sovrano e Militare Ordine dei Cavalieri di Malta; dal 1834 al 1961 furono i Cavalieri Ospitalieri di San Giovanni di Gerusalemme; e dal 1961 ad oggi sono formalmente conosciuti come Sovrano Militare e Ordine Ospedaliero di San Giovanni di Gerusalemme, di Rodi e di Malta.
Nel 1120, Raymond de Puy (a.k.a. Raymond di Provenza) succedette a Gerard come capo dell'ordine. Sostituì la Regola benedettina con la Regola agostiniana e iniziò attivamente a costruire la base di potere dell'ordine, aiutando l'organizzazione ad acquisire terre e ricchezza. Forse ispirati dai Templari, gli Ospitalieri iniziarono a prendere le armi per proteggere i pellegrini e curare le loro malattie e ferite. I Cavalieri Ospitalieri erano ancora monaci e continuarono a seguire i loro voti di povertà personale, obbedienza e celibato. L'ordine comprendeva anche cappellani e fratelli che non prendevano le armi.
Le mutevoli fortune dei crociati occidentali influenzerebbero anche gli Ospitalieri. Nel 1187, quando Saladino conquistò Gerusalemme, i Cavalieri Ospitalieri trasferirono il loro quartier generale a Margat, poi ad Acri dieci anni dopo. Con la caduta di Acri nel 1291 si trasferirono a Limassol a Cipro.
Nel 1309 gli Ospitalieri acquisirono l'isola di Rodi. Il gran maestro dell'ordine, che fu eletto a vita (se confermato dal papa), governò Rodi come uno stato indipendente, coniando monete ed esercitando altri diritti di sovranità. Quando i Cavalieri del Tempio furono dispersi, alcuni Templari sopravvissuti si unirono ai ranghi di Rodi. I cavalieri ora erano più guerrieri che "ospitali", sebbene rimasero una fratellanza monastica. Le loro attività includevano la guerra navale; armarono navi e partirono per i pirati musulmani e si vendicarono dei mercanti turchi con la loro pirateria.
Nel 1522 il controllo ospedaliero di Rodi terminò con un assedio di sei mesi da parte del leader turco Suleyman il Magnifico. I Cavalieri capitolarono il 1 ° gennaio 1523 e lasciarono l'isola con quei cittadini che scelsero di accompagnarli. Gli Ospitalieri rimasero senza una base fino al 1530, quando l'imperatore del Sacro Romano Impero Carlo V fece in modo che occupassero l'arcipelago maltese. La loro presenza era condizionata; l'accordo più notevole fu la presentazione di un falco al viceré siciliano dell'imperatore ogni anno.
Nel 1565, il grande maestro Jean Parisot de la Valette esibì una superba leadership quando fermò Suleyman il Magnifico dallo spostare i Cavalieri dal loro quartier generale maltese. Sei anni dopo, nel 1571, una flotta combinata dei Cavalieri di Malta e diverse potenze europee distrussero virtualmente la marina turca nella battaglia di Lepanto. I Cavalieri costruirono una nuova capitale di Malta in onore di La Valletta, che chiamarono Valetta, dove costruirono grandi difese e un ospedale che attirò pazienti da molto al di là di Malta.
Gli Ospitalieri erano tornati al loro scopo originale. Nel corso dei secoli hanno gradualmente rinunciato alla guerra a favore delle cure mediche e dell'amministrazione territoriale. Poi, nel 1798, persero Malta quando Napoleone occupò l'isola sulla strada per l'Egitto. Per un breve periodo tornarono sotto gli auspici del Trattato di Amiens (1802), ma quando il Trattato di Parigi del 1814 diede l'arcipelago alla Gran Bretagna, gli Ospitalieri se ne andarono di nuovo. Alla fine si stabilirono definitivamente a Roma nel 1834.
Sebbene alla nobiltà non fosse richiesto di unirsi all'ordine monastico, doveva essere un Cavaliere Ospitaliere. Col passare del tempo questo requisito è diventato più severo, dalla dimostrazione della nobiltà di entrambi i genitori a quella di tutti i nonni per quattro generazioni. Una varietà di classificazioni cavalleresche si è evoluta per accogliere cavalieri minori e coloro che hanno rinunciato ai voti per sposarsi, ma sono rimasti affiliati all'ordine. Oggi solo i cattolici romani possono diventare Ospitalieri e i cavalieri al governo devono dimostrare la nobiltà dei loro quattro nonni per due secoli.
Dopo il 1805 l'ordine fu condotto da luogotenenti fino a quando l'ufficio del Gran Maestro fu restaurato da Papa Leone XIII nel 1879. Nel 1961 fu adottata una nuova costituzione in cui fu definito con precisione lo stato religioso e sovrano dell'ordine. Anche se l'ordine non governa più alcun territorio, rilascia passaporti ed è riconosciuto come una nazione sovrana dal Vaticano e da alcune nazioni cattoliche europee.