La nazionale tedesca propriamente detta esordì nel 1908, otto anni dopo la fondazione della Federazione calcistica della Germania (DFB), perdendo per 5-3 contro la Svizzera a Basilea. Eliminata al turno preliminare del torneo olimpico di calcio 1912, la squadra ebbe il primo commissario tecnico qualche anno dopo: fu Otto Nerz, un insegnante scolastico di Mannheim, a guidare la Mannschaft dal 1926 al 1936. La Germania arrivò terza nel campionato mondiale del 1934, nella sua prima apparizione ad un torneo iridato. Due anni dopo l’incarico di CT fu affidato a Sepp Herberger, con cui la squadra uscì al primo turno del campionato mondiale del 1938. Dopo che l’Austria (avente all’epoca una forte selezione nazionale) fu annessa alla Germania nel 1938 nell’Anschluss, i giocatori austriaci del Rapid Vienna (che fu tra l’altro l’unica austriaca a vincere la Gauliga) si erano aggiunti alla selezione tedesca in breve tempo per motivi politici.
Al termine della seconda guerra mondiale, con la Germania ormai divisa in due entità politiche differenti – la Repubblica Democratica e quella Federale – e devastata dalla guerra, la situazione calcistica era alquanto problematica. Si formò un’altra federazione che si staccò dalla DFB per amministrare indipendentemente il calcio nella Germania dell’Est, formando una propria nazionale. Oltre a questo, la formazione tedesco-occidentale, ormai Germania Ovest, non era vista di buon occhio: per i primi anni solo le vicine Svizzera e Austria, oltre che la Turchia, giocarono sfide con l’Ovest. Fu la Repubblica d’Irlanda a rompere questo tabù ed accordarsi con la federcalcio occidentale per una partita. Dopo essere stati esclusi dal campionato mondiale del 1950 in Brasile, i tedeschi occidentali sorprendentemente vinsero il successivo, nel 1954 in Svizzera, guidati da Fritz Walter e ancora allenati da Sepp Herberger, battendo in finale la favoritissima Ungheria. L’evento, passato alla storia come “miracolo di Berna”, entusiasmò la Germania del dopoguerra ed è stato considerato un fattore importante della ripresa economico-morale del paese.
Conclusasi con un quarto posto l’avventura al campionato mondiale del 1958 e raggiunti i quarti di finale in quello del 1962, la squadra, sotto la guida di Helmut Schön, raggiunse la finale del campionato mondiale del 1966, persa contro l’Inghilterra padrona di casa a Wembley. Mancata la qualificazione al campionato d’Europa 1968 a causa di un pareggio contro l’Albania a Tirana, la Germania Ovest si piazzò terza al campionato mondiale del 1970 in Messico, dopo la celebre eliminazione patita contro l’Italia in semifinale, nella cosiddetta Partita del secolo (in tedesco Jahrhundertspiel); l’attaccante tedesco occidentale Gerd Müller si aggiudicò la classifica marcatori della competizione con 10 reti.Nel 1971 Franz Beckenbauer divenne capitano della Germania Ovest e la guidò alla conquista prima dell’europeo successivo e poi del mondiale disputato in casa. La prima vittoria del torneo continentale, nel 1972, si concretizzò con una netta affermazione per 3-0 sull’Unione Sovietica nella finale di Bruxelles, mentre due anni dopo, al campionato mondiale del 1974, fu il turno dei Paesi Bassi di Johan Cruyff, che persero per 1-2 la finale disputata allo stadio Olimpico di Monaco di Baviera. Una storica partita tra le due nazionali tedesche si giocò ad Amburgo il 22 giugno 1974 nella fase finale del mondiale di quell’anno: vinse la Germania Est per 1-0 grazie ad un gol di Jürgen Sparwasser, ma secondo molti la partita in oggetto fu combinata per consentire alle due selezioni il passaggio di turno, con reciproco vantaggio (la Ovest, perdendo, evitò il girone di ferro con Olanda, Brasile e Argentina). I tedeschi occidentali furono poi finalisti al campionato d’Europa 1976, che persero nell’atto conclusivo contro la Cecoslovacchia ai tiri di rigore (5-3 dopo che i supplementari si conclusero sul 2-2). Questa è, ad oggi, l’unica sconfitta subita ai tiri di rigore dalla nazionale tedesca in una partita ufficiale. Eliminata al secondo turno a gironi al campionato del mondo 1978, dopo una storica sconfitta con l’Austria, la Germania Ovest fu affidata al CT Jupp Derwall, che guidò la Mannschaft alla vittoria del campionato d’Europa 1980, ottenuta battendo il Belgio nella finale dello stadio Olimpico di Roma grazie a una doppietta di Hrubesch (2-1). Due anni dopo, la squadra raggiunse anche la finale del campionato del mondo 1982, ma fu battuta per 3-1 dall’Italia.