Il Borussia Mönchengladbach nacque il 1º agosto 1900 con il nome di Fußballklub Borussia 1900 M.-Gladbach.
Nel 1914 la società acquistò il centro sportivo dä Kull, inaugurato nel 1919 con il nome di Westdeutsches Stadion. Nel 1920, dopo una lunga trafila nelle serie minori, si laureò campione della Verbandsliga della Germania Occidentale con il nome di VfTuR 1889 Mönchengladbach, dovuto ad una precedente fusione con la Turnverein Germania 1889. Nel 1921 la Turnverein Germania 1889 si scisse nuovamente e il club fu ribattezzato Borussia VfL 1900 e.V. Mönchengladbach, che sarebbe rimasto il nome definitivo della società.
Nel 1936, nonostante la permanenza nelle serie regionali, arrivò a sorpresa la convocazione in Nazionale per il giovane difensore Heinz Ditgens, che giocò entrambe le partite che la Germania disputò alle Olimpiadi di Berlino, diventando così il primo giocatore del Borussia ad aver indossato la maglia della Nazionale maggiore. Dopo la fine della seconda guerra mondiale i campionati subirono una nuova riorganizzazione e la squadra dovette ripartire da una serie minore. In pochi anni il club inanellò una serie di promozioni consecutive che culminò nel 1950 con il passaggio dalla Zweite Liga Ovest all’Oberliga Ovest, la massima divisione nazionale. Negli anni cinquanta il Borussia occupò stabilmente le zone medio-basse della classifica e retrocesse due volte: nel 1951 e nel 1957, anche se in entrambe le occasioni la permanenza in Zweite Liga durò solo una stagione.
I primi successi (1960-1969)
Nel 1960 il club si aggiudicò il primo trofeo nazionale della sua storia. Il Borussia conquistò la Coppa della Germania Occidentale, e ottenne così il diritto ad accedere alle semifinali della Coppa di Germania, dove sconfisse l’Amburgo. Nella finale del torneo superò il favorito Karlsruhe per 3-2, grazie ad una magistrale prestazione del capitano Albert Brülls, che prima fornì gli assist per le reti di Mühlhausen e Kohn e poi realizzò il gol decisivo. Nel 1963 nacque la Bundesliga, ma il Borussia non riuscì a qualificarsi per la serie maggiore e si vide costretto a ripartire dalla Regionalliga Ovest. La promozione arrivò solo nel 1965, con il primo posto nel girone e la vittoria dei successivi incontri di spareggio.Il carismatico tecnico Hennes Weisweiler stava allestendo una squadra di giovani talenti come Günter Netzer, Jupp Heynckes e Berti Vogts che sarebbe stata protagonista in Europa per tutto il decennio successivo. La giovane età e il gioco offensivo, veloce e travolgente, avrebbero valso ai suoi giocatori l’appellativo di Fohlen (Puledri), che sarebbe restato per sempre affiancato al nome del Borussia. Dopo sole due stagioni di ambientamento nella massima serie, la squadra si dimostrò in grado di competere con le grandi e si classificò al terzo posto sia nel campionato 1967-68 che nel 1968-69.