Il club fu fondato nel 1904 e adottò i colori della città di Leeds, blu giallo e bianco. Nel 1905 fu ammesso alla Football League. Il ruolo di segretario del club, che all’epoca comprendeva mansioni che oggi sono appannaggio dell’allenatore, fu ricoperto fino al 1908 da Gilbert Gillies, poi rimpiazzato da Frank Scott-Walford prima della nomina, nel 1912, di Herbert Chapman, sotto la cui guida il club colse il quarto posto in Second Division.
Il Leeds City militò sempre in Second Division, ma durante la prima guerra mondiale vinse molti onori militari sotto Chapman. Alla fine del conflitto mondiale, scoppiò uno scandalo che coinvolse la società, accusata di irregolarità finanziarie e la violazione del divieto di retribuire i calciatori durante la guerra. La tempesta che investì il club portò allo scioglimento della squadra nel 1919. L’espulsione dalla Football League dopo otto giornate della stagione agonistica 1919-1920 fu una severa punizione per le azioni dei dirigenti del club, che si rifiutarono di collaborare con la giustizia e di consegnare i registri contabili del sodalizio alla FA al fine di consentire il procedere dell’inchiesta.
Al posto del Leeds United, fu ripescato il Port Vale, che ereditò i risultati e il calendario dei primi. Il 17 ottobre 1919 al Metropole Hotel di Leeds di Leeds si tenne un’asta in cui furono messi in vendita il parco giocatori e altri beni del club. I sedici membri della squadra furono comprati da nove altri club in cambio di 9 250 sterline.
La squadra partecipò alla Second Division fino al 1924, quando venne promossa in First Division. La sua permanenza durò solo due anni, fino al 1926-1927 quando, piazzandosi penultima in campionato, retrocesse nuovamente. Negli anni precedenti alla seconda guerra mondiale il Leeds venne due volte in seconda divisione e in entrambi i casi riuscì a riconquistare la massima serie l’anno successivo. Nel 1947, subito dopo la guerra, i Whites retrocedettero per la terza volta, nella stagione peggiore della loro storia.
Il Leeds rimase nella Second Division per ben nove stagioni fino al 1956, quando riuscì a centrare di nuovo la promozione in First Division, grazie al fondamentale apporto del campione gallese John Charles, che militò nella formazione inglese anche nella stagione successiva prima di essere ceduto alla Juventus per la cifra record di 65 000 sterline. La perdita di questo campione determinò un nuovo declino per la squadra, che incappò in una nuova retrocessione nel 1960. Nell’ottobre del 1988 con la squadra inchiodata sulla ventunesima posizione in classifica, Bremner venne esonerato ed al suo posto arrivò Howard Wilkinson, che riportò il Leeds dopo otto anni nella First Division l’anno successivo nel 1989-90. La chiave dell’immediato successo, furono gli acquisti chiave effettuati il primo anno di Wilkinson come: Gordon Strachan forte mediano dal Manchester United, Vinnie Jones, Mel Sterland, Lee Chapman e Chris Fairclough. Questi importanti rinforzi si aggiunsero ad una squadra ricca di talenti cresciuti nel vivaio su tutti David Batty e Gary Speed.
Palmarès
Titoli d’Inghilterra 3
Coppe d’Inghilterra 1
Coppe di Lega inglesi 1
Charity/Community Shield 2