L’SpVgg Fürth nasce nel 1903, e già nel 1914, sotto la guida di Sir William Townley, conquista il primo titolo tedesco; questo accade dopo aver battuto nella finale nazionale il VfB Lipsia ai tempi supplementari.
Il periodo migliore per il Fürth è comunque durante la Repubblica di Weimar: nel 1923, così come nel 1927, il club viene eliminato nella semifinale nazionale, mentre nel 1920 era stato sconfitto in finale dal Norimberga. Vengono comunque vinti altri due titoli tedeschi, nel 1926 e nel 1929, entrambi dopo aver battuto nell’ultima partita l’Hertha Berlino. Il calcio tedesco viene però poco dopo riformato dal Terzo Reich, e il Fürth si ritrova a giocare nella Gauliga Bayern; vince qui il titolo nel 1935, ma non riscuote più successo a livello nazionale.
Nel dopoguerra la squadra viene inserita in una delle nuove cinque massime divisioni tedesche occidentali, l’Oberliga Süd. Vince questo campionato nel 1950 e arriva poco dopo a disputare nuovamente una semifinale nazionale, tuttavia in seguito finisce spesso lontano dal vertice. Militano però in questo periodo due dei giocatori più celebri della storia del club, Karl Mai ed Herbert Erhardt, entrambi campioni del Mondo in Svizzera nel 1954. Erhardt è anche il giocatore del Fürth ad aver accumulato più presenze in Nazionale, 49. Il personaggio più famoso nella storia del club francone rimane tuttavia Henry Kissinger, che fu per molto tempo membro della società prima di emigrare negli Stati Uniti.
Nel 1963 nasce in Germania Ovest la Bundesliga, ma i recenti risultati del Fürth lo fanno invece ammettere ad una delle neonate seconde divisioni, la Regionalliga Süd. Qui rimane con pochi acuti fino al 1974, anno di nascita della Zweite Bundesliga; viene subito ammesso a questo campionato, e ottiene nella stagione 1978-1979 il miglior risultato di questo periodo, un quarto posto.
Il Fürth retrocede però quattro anni dopo in terza divisione, e da qui in quarta nel 1987. Viene promosso al termine della stagione 1990-1991, che si era aperta con un risultato prestigioso: nel primo turno della DFB-Pokal la piccola squadra aveva eliminato il Borussia Dortmund. Altro anno cruciale è il 1996, quando nasce l’attuale club, lo Spielvereinigung Greuther Fürth; questo avviene dopo la fusione con il TSV Vestenbergsgreuth, piccolissima società nata nel 1974 anch’essa capace di mietere una vittima illustre nella DFB-Pokal 1994-1995, il Bayern Monaco.
La neonata compagine torna presto in Zweite Bundesliga, evento che si verifica precisamente nella stagione 1997-1998. Gioca in questa categoria quindici campionati consecutivi sfiorando più volte la promozione, al punto da essere soprannominata unaufsteigbar, ovvero “quella che non viene mai promossa”.
Il passaggio al livello superiore si concretizza però con la vittoria della Zweite Bundesliga del 2012: il club si ritrova così per la prima volta in Bundesliga. La stagione 2012-2013 si conclude però con la retrocessione all’ultimo posto, oltretutto senza mai ottenere una vittoria casalinga, record negativo precedentemente detenuto solo dal Tasmania Berlino nel 1965-66[5]. L’anno seguente il Greuther Fürth ha subito la possibilità di tornare al livello superiore, tuttavia al terzo posto ottenuto in campionato fa seguito la sconfitta nel play-off promozione/retrocessione contro l’Amburgo. Nelle stagioni 2014-2015 e 2017-2018 il club ottiene una salvezza all’ultima giornata in entrambe le annate. Il club torna in Bundesliga il 23 maggio 2021 battendo 3-2 il Fortuna Düsseldorf e superando il Kiel di due punti.