Nato il 6 dicembre 1833, nella contea di Powhatan, in Virginia, John Singleton Mosby era figlio di Alfred e Virginny Mosby. All'età di sette anni, Mosby e la sua famiglia si trasferirono nella contea di Albemarle vicino a Charlottesville. Educato localmente, Mosby era un bambino piccolo e veniva spesso preso di mira, ma raramente si tirava indietro da una rissa. Entrato all'Università della Virginia nel 1849, Mosby si dimostrò uno studente abile ed eccelleva in latino e greco. Mentre era uno studente, è stato coinvolto in una rissa con un bullo locale, durante il quale ha sparato all'uomo al collo.
Espulso da scuola, Mosby è stato condannato per spari illegali e condannato a sei mesi di prigione e una multa di $ 1.000. A seguito del processo, diversi giurati hanno presentato una petizione per il rilascio di Mosby e il 23 dicembre 1853 il governatore ha emesso la grazia. Durante il suo breve periodo in prigione, Mosby fece amicizia con il procuratore locale, William J. Robertson, e manifestò interesse a studiare legge. Leggendo la legge nell'ufficio di Robertson, Mosby fu finalmente ammesso al bar e aprì la sua pratica nella vicina Howardsville, in Virginia. Poco dopo, conobbe Pauline Clarke e i due si sposarono il 30 dicembre 1857.
Stabilendosi a Bristol, in Virginia, la coppia ebbe due figli prima dello scoppio della guerra civile. Inizialmente un oppositore della secessione, Mosby si arruolò immediatamente nei Washington Mounted Rifles (1 ° Virginia Cavalry) quando il suo stato lasciò l'Unione. Combattendo come privato nella prima battaglia di Bull Run, Mosby scoprì che la disciplina militare e il soldato tradizionale non erano di suo gradimento. Nonostante ciò, si dimostrò un abile cavaliere e presto fu promosso primo tenente e nominato aiutante del reggimento.
Mentre i combattimenti si spostavano sulla penisola nell'estate del 1862, Mosby si offrì volontario come scout per il generale di brigata J.E.B. La famosa cavalcata di Stuart attorno all'Armata del Potomac. A seguito di questa drammatica campagna, Mosby fu catturato dalle truppe dell'Unione il 19 luglio 1862, vicino alla stazione di Beaver Dam. Portato a Washington, Mosby osservò attentamente ciò che lo circondava mentre veniva spostato su Hampton Roads per essere scambiato. Notando le navi che portavano il comando del maggiore generale Ambrose Burnside in arrivo dalla Carolina del Nord, riferì immediatamente queste informazioni al generale Robert E. Lee dopo essere stato rilasciato.
Questa intelligence ha aiutato Lee a pianificare la campagna culminata nella Seconda Battaglia di Bull Run. Quell'autunno Mosby iniziò a fare pressioni su Stuart per consentirgli di creare un comando di cavalleria indipendente nella Virginia del Nord. Operando ai sensi della Legge sui ranger partigiani della Confederazione, questa unità effettuerebbe piccoli raid rapidi sulle linee di comunicazione e fornitura dell'Unione. Cercando di emulare il suo eroe dalla Rivoluzione americana, il leader partigiano Francis Marion (La volpe della palude), Mosby ricevette finalmente il permesso da Stuart nel dicembre 1862, e fu promosso maggiore il marzo successivo.
Reclutando nella Virginia del Nord, Mosby creò una forza di truppe irregolari che furono designate rangers partigiani. Costituiti da volontari di ogni ceto sociale, vivevano nella zona, si fondevano con la popolazione e si riunivano quando venivano convocati dal loro comandante. Conducendo incursioni notturne contro avamposti dell'Unione e rifornendo convogli, colpirono il punto in cui il nemico era più debole. Sebbene la sua forza crebbe di dimensioni (240 nel 1864), fu raramente combinata e spesso colpì più bersagli nella stessa notte. Questa dispersione di forze ha fatto perdere l'equilibrio agli inseguitori dell'Unione di Mosby.
L'8 marzo 1863, Mosby e 29 uomini fecero irruzione nella casa di corte della contea di Fairfax e catturarono il generale di brigata Edwin H. Stoughton mentre dormiva. Altre audaci missioni includevano attacchi a Catlett Station e Aldie. Nel giugno 1863, al comando di Mosby fu ridisegnato il 43 ° battaglione di Ranger partigiani. Sebbene perseguito dalle forze dell'Unione, la natura dell'unità di Mosby ha permesso ai suoi uomini di svanire semplicemente dopo ogni attacco, senza lasciare traccia da seguire. Frustrato dai successi di Mosby, il tenente generale Ulisse S. Grant emise un editto nel 1864, secondo cui Mosby e i suoi uomini dovevano essere designati fuorilegge e impiccati senza processo se catturati.
Mentre le forze dell'Unione sotto il maggiore generale Philip Sheridan si trasferirono nella valle di Shenandoah nel settembre 1864, Mosby iniziò a operare contro di lui. Più tardi quel mese, sette uomini di Mosby furono catturati e impiccati a Front Royal, in Virginia, dal generale di brigata George A. Custer. Per rappresaglia, Mosby ha risposto in natura, uccidendo cinque prigionieri dell'Unione (altri due sono fuggiti). Un trionfo chiave si è verificato in ottobre, quando Mosby è riuscito a catturare il libro paga di Sheridan durante il "Greenback Raid". Mentre la situazione nella valle si intensificava, Mosby scrisse a Sheridan l'11 novembre 1864, chiedendo un ritorno al trattamento equo dei prigionieri.
Sheridan accettò questa richiesta e non si verificarono ulteriori omicidi. Frustrato dalle incursioni di Mosby, Sheridan organizzò un'unità appositamente equipaggiata di 100 uomini per catturare il partigiano confederato. Questo gruppo, ad eccezione di due uomini, fu ucciso o catturato da Mosby il 18 novembre. Mosby, promosso colonnello a dicembre, vide il suo comando salire a 800 uomini e continuò le sue attività fino alla fine della guerra nell'aprile 1865. Non disposto a arrendersi formalmente, Mosby ha rivisto i suoi uomini per l'ultima volta il 21 aprile 1865, prima di sciogliere la sua unità.
Dopo la guerra, Mosby fece arrabbiare molti nel sud diventando repubblicano. Credendo che fosse il modo migliore per aiutare a guarire la nazione, fece amicizia con Grant e fu presidente della sua campagna presidenziale in Virginia. In risposta alle azioni di Mosby, l'ex partigiano ha ricevuto minacce di morte e ha fatto bruciare la sua casa d'infanzia. Inoltre, almeno un tentativo è stato fatto sulla sua vita. Per aiutarlo a proteggerlo da questi pericoli, Grant lo nominò Console degli Stati Uniti ad Hong Kong nel 1878. Ritornato negli Stati Uniti nel 1885, Mosby lavorò come avvocato in California per la Southern Pacific Railroad, prima di passare attraverso una varietà di incarichi governativi. Ultimo servendo come procuratore generale presso il Dipartimento di Giustizia (1904-1910), Mosby morì a Washington DC il 30 maggio 1916 e fu sepolto nel cimitero di Warrenton in Virginia.