Шваб родился в 27.09.1990 в Зальфельден-ам-Штайнернен-Мер. С детства проявлял интерес к спорту, занимаясь, помимо футбола, альпийским биатлоном, лыжами и прыжками с трамплина. В итоге его любовь к мячу оказалась сильнее других увлечений и в 13 лет он решил полностью посвятить себя футболу.

Вначале он играл за местную команду, а в возрасте 14 лет поступил в академию «Зальцбурга», где воспитывался с 2004 по 2011. Дошел до второй команды, в составе которой выступал во втором дивизионе чемпионата Австрии и параллельно участвовал в тренировках первой команды. Летом 2010 года Штефан на правах аренды перешёл в «Лустенау 07», где насчитал 24 матча, 6 голов и 7 результативных передач. Затем вернулся, но долго не задержался и был арендован в «Адмира Ваккер», вместе с которой праздновал выход в высшую лигу.

«Адмира» воспользовалась опцией выкупа футболиста, что было частью соглашения об аренде и Шваб перебрался на новое место жительства. Пробыл в клубе до 2014, сразу получил роль лидера и стал выполнять множество функций на игровом поле. Всего провел 114 поединков, забил 20 мячей, отдал 14 голевых пасов и вызвал к себе, что было естественно, интерес больших команд.

В июне 2014 «Рапид» Вена приобрел его у «Адмиры» всего за 400.000 евро и нашел в его лице одного из лидеров команды на последующие шесть лет.

В составе «Рапида» Шваб проявил себя как на внутренней арене, так и в европейских турнирах. Надел капитанскую повязку, сыграл в 241 матче, забил 51 гол, ассистировал такое же количество раз и получил приглашение в национальную сборную своей страны.

Летом 2020 его контракт истек и он принял предложение ΠΑΟΚ.