Xhaka urodził się w rodzinie kosowskiego pochodzenia w szwajcarskiej Bazylei. Karierę piłkarską rozpoczął w klubie FC Concordia Basel. W 2002 roku podjął treningi w FC Basel i do 2009 roku grał w nim w drużynach młodzieżowych. Z kolei w 2009 roku został członkiem zespołu rezerw i przez sezon grał w nim w trzeciej lidze szwajcarskiej. Rozegrał w niej 11 meczów i strzelił 6 goli. Latem 2010 awansował do kadry pierwszego zespołu klubu z Bazylei. 21 sierpnia 2010 zadebiutował w pierwszej lidze szwajcarskiej w zremisowanym 1:1 wyjazdowym meczu z FC Thun. Z kolei 15 maja 2011 w meczu z Thun, wygranym przez Basel 5:1, strzelił swojego pierwszego gola w Axpo Super League. Na koniec sezonu 2010/2011 wywalczył z Basel mistrzostwo Szwajcarii.
Xhaka ma za sobą występy w młodzieżowych reprezentacjach Szwajcarii. W 2009 roku zagrał wraz z reprezentacją U-17 na Mistrzostwach Świata U-17 w Nigerii. Szwajcaria wygrała ten turniej, a Xhaka zdobył w nim jednego gola, w grupowym meczu z Japonią (4:3).
