Il club viene fondato a Vienna il 12 marzo 1911 con il nome di Wiener Amateur-Sportverein (WAS) da alcuni ex giocatori ed ex dirigenti del Vienna Cricket and Football-Club. La squadra adotta il viola e il bianco come colori sociali; per questo il soprannome della squadra è “Die Veilchen”, “I Violetti”. Il club vince il suo primo trofeo nel 1921 conquistando la ÖFB-Cup, mentre il primo campionato viene vinto nel 1923-1924, stagione in cui la squadra realizza il double. Questa stessa combinazione viene realizzata anche nel 1926, anno in cui la squadra diventa professionistica; il nome viene perciò cambiato, e da Amateure diventa Austria. In questo periodo Gustav Wieser è capocannoniere in tre campionati consecutivi, mentre un altro giocatore importante è Walter Nausch.
Negli anni trenta l’Austria Vienna inizia ad affermarsi anche a livello internazionale: nel 1933 arriva infatti il primo successo nella Coppa Mitropa, trofeo per certi versi predecessore dell’attuale Champions League: gli austriaci, dopo aver superato il primo turno sconfiggono la Juventus in semifinale, e hanno poi la meglio sull’Ambrosiana-Inter nella doppia finale. Un nuovo successo nella manifestazione avviene nell’edizione del 1936, il trofeo viene conquistato sconfiggendo lo Sparta Praga in finale. Uno dei giocatori simbolo di questo periodo è Matthias Sindelar, che è anche il capitano della nazionale austriaca conosciuta come Wunderteam, la “squadra delle meraviglie”.
Nel 1938 l’Austria viene annessa alla Germania, e le squadre austriache militano nella Gauliga Ostmark; qui “i Violetti” realizzano la vittoria più larga in assoluto nel campionato austriaco, un 21-0 contro il LASK. A parte questo, però, l’Austria Vienna non ottiene grandi risultati in questo periodo, che è anche molto triste: molti dei dirigenti e dei giocatori con origini ebree devono fuggire o vengono uccisi dal regime di Hitler. Lo stesso Sindelar muore in circostanze non chiare il 23 gennaio 1939 all’interno dell’appartamento che condivide con la sua compagna italiana, ufficialmente a causa di un avvelenamento da monossido di carbonio. Oltre al fatto che Sindelar convivesse con un’ebrea, l’episodio avvenuto durante la gara di scioglimento della Nazionale austriaca dopo l’Anschluss, un balletto successivo alla marcatura al posto del saluto nazista alla tribuna insieme al suo compagno ed amico Karl Sesta costituiva una forma di opposizione pubblica e visibile, di cui tutti, ancor oggi, parlano a Vienna. Tuttavia il club ottiene in questo periodo una vittoria molto più importante: riesce a mantenere il nome “Austria” nonostante i tentativi delle autorità sportive naziste di rinominare la società. Solo per un breve periodo nel 1938 la squadra assume la denominazione di Sportclub Ostmark.
Palmarès
Titoli nazionali 24 Bundesliga
Trofei nazionali 27 ÖFB-Cup
6 ÖFB-Supercup
Trofei internazionali 2 Coppe Mitropa