Chiamato "Ilich" come un paeon di Lenin (il cui nome completo era Vladimir Ilyich Lenin) dal padre marxista, Ramirez fu in seguito conosciuto come Carlos lo Sciacallo. Il suo soprannome deriva in parte dal romanzo, Il giorno dello sciacallo, un thriller che una volta fu trovato dalle autorità tra i suoi averi.
Nato nel 1949 a Caracas, in Venezuela, dove è cresciuto. Ha anche studiato in Inghilterra e ha frequentato l'università a Mosca. Dopo la sua espulsione dall'università nel 1970, si unì al Fronte palestinese per la liberazione della Palestina (PFLP), un gruppo di sinistra panarabo con sede ad Amman, in Giordania.
La più famosa mossa terroristica di Ramirez è stata l'acquisizione del quartier generale dell'OPEC a Vienna in una conferenza del 1975, dove ha anche preso in ostaggio 11 membri. Gli ostaggi furono infine trasportati ad Algeri e liberati. Sebbene in seguito siano state ridimensionate, le ipotesi secondo cui Ramirez aveva contribuito a uccidere due degli atleti israeliani presi in ostaggio ai Giochi olimpici del 1972 a Monaco, hanno aggiunto alla sua reputazione di terrorista spietato ed efficace. In effetti, molte delle imprese di Ramirez avevano origini oscure, obiettivi e sponsor poco chiari, il che conferiva al terrorista autoproclamato un fascino misterioso.
Una recensione del 1994 di David Yallop Tracking the Jackal: The Search for Carlos, l'uomo più ricercato al mondo suggerisce che i rapimenti dell'OPEC potrebbero essere stati sponsorizzati da Saddam Hussein, piuttosto che dal PFLP, come è stato suggerito, o dal leader libico Muammar Al Gheddafi:
Sebbene si pensasse da tempo che l'attacco armato a una riunione di Vienna del cartello petrolifero e il rapimento di 11 dei ministri del petrolio fossero stati concepiti e pagati dal colonnello Muammar el-Gheddafi, il libro fa un caso persuasivo che dietro in realtà Saddam Hussein, in cerca di un aumento del prezzo del petrolio per finanziare la sua imminente guerra con l'Iran.
Il signor Hussein intendeva che Carlos usasse il rapimento come pretesto per assassinare gli avversari sauditi di un aumento dei prezzi, dice Yallop, ma l'inesperto Carlos ha venduto il suo datore di lavoro, come ha fatto spesso, e invece ha ottenuto un riscatto di $ 20 milioni da il governo saudita (gli ostaggi furono infatti rilasciati).
Lo sciacallo fu arrestato dai francesi nel 1994, in Sudan dove viveva. È stato condannato per diversi omicidi nel 1997 e dal 2017 è ancora in prigione.
Ramirez ha espresso ammirazione per Osama Bin Laden dalla prigione e, più in generale, per Islam rivoluzionario, che è il titolo di un libro del 2003 che ha pubblicato dalla prigione. In esso, il terrorista incarcerato ha mostrato sfumature della sua affiliazione permanente con i gruppi secolari di sinistra la cui visione del conflitto è modellata dalle differenze di classe che descrivono l'Islam come l'unica "forza transnazionale in grado di sostenere la" schiavitù delle nazioni ".