W 2006 Mehmedi przeszedł do FC Zürich. W 2007 roku zaczął grać w trzecioligowych rezerwach tego klubu, a w 2008 roku awansował do kadry pierwszego zespołu. 20 lipca 2008 zadebiutował w pierwszej lidze szwajcarskiej w wygranym 2:1 wyjazdowym meczu z Neuchâtel Xamax. Z kolei 24 sierpnia 2008 w meczu z FC Sion, który Zürich wygrał 3:1, strzelił swojego pierwszego gola w Axpo Super League. W 2009 roku wywalczył z Zürichem mistrzostwo Szwajcarii. W sezonie 2010/2011 stał się podstawowym zawodnikiem klubu, z którym został wicemistrzem kraju. 6 stycznia 2012 podpisał 4,5-letni kontrakt z ukraińskim Dynamem Kijów[1]. 9 lipca 2013 roku został wypożyczony do SC Freiburg[2]. 26 maja 2014 niemiecki klub wykupił transfer piłkarza[3]. W 2015 przeszedł do Bayeru 04 Leverkusen.
