Jest najstarszym austriackim klubem piłkarskim. Powstał 22 sierpnia1894 pod angielską, obowiązującą do dziś, nazwą. Pierwszy mecz rozegrał 15 listopada tego samego roku. Największe sukcesy zaczął odnosić pod koniec lat 20. W 1929 i 1930 triumfował w Pucharze Austrii, a w 1931 sięgnął po pierwszy tytuł mistrza Austrii. W tym samym roku zwyciężył w prestiżowym wówczas Pucharze Mitropa.
Następna dekada była najlepsza w historii klubu. First Vienna regularnie zdobywała tytuły mistrza Austrii, a w 1943 wywalczyła Puchar Niemiec w ostatniej edycji rozgrywanej przed przerwą spowodowaną wojną. Szósty, ostatni tytuł mistrza Austrii First Vienna zdobyła w 1955. W skład zespołu wchodzili wówczas m.in. brązowi medaliści MŚ 54Karl Koller i Kurt Schmied.
Q – runda eliminacyjna, 1/16, 1/8, 1/4, 1/2 – odpowiednia faza rozgrywek, Grupa – runda grupowa, 1r gr – pierwsza runda grupowa, 2r gr – druga runda grupowa, F – finał, R – runda, PO – play-off
k. – rzuty karne, los. – losowanie, Dogr. – dogrywka, w. – zasada bramek strzelonych na wyjeździe