Redan på 1700-talet firade svenskar gudstjänst vid den svenska legationen här i Wien. I den svenske utsändes hem fanns ett kapell. Vi vet att år 1738 var en man från Mecklenburg, Christoff Gerhard Suke, legationspredikant.
År 1920 etablerade sig Svenska Israelsmissionen i Wien. De hade utöver sin ordinarie verksamhet bland Wiens judar även gudstjänster på svenska. Efter 1938 inriktades verksamheten på att rädda judar och judekristna undan förintelsen. Minst 3000 människor kunde med hjälp av Israelsmissionen, på Seegasse 16, komma undan nazisterna. Seegasse stängdes 1941 av Gestapo.
En av Israelsmissionens svenska medarbetare, diakonissan Anna-Lena Petersson, återvände redan 1946 till Seegasse. I hennes bostad kom så småningom föregångaren till dagens Svenska kyrkan i Wien att bildas. Där träffades svenskar för att uppmärksamma svenska högtider, förbereda basarer osv. Med hjälp av svenska präster från Schweiz och Tyskland började man 1973 att fira gudstjänst tillsammans.
1982 inrättade Svenska kyrkan i utlandet en kyrkoherdetjänst i Wien. Harald och Gertie Kronvall blev det första prästparet. Till en början var man på Seegasse innan man 1986 flyttade in i dagens lokaler på Gentzgasse 10.