Klub został założony w 1950 jako Məhsul (Mehsuł) Ağdam, jednakże został zgłoszony do rozgrywek dopiero rok później (w ZSRR, grano wówczas systemem wiosna-jesień). W 1951 roku powstał też stadion miejski w Ağdam. W 1966 klub zadebiutował w rozgrywkach o mistrzostwo Azerskiej SRR, najlepszy wynik w tych rozgrywkach Qarabağ osiągnął w 1968 roku zdobywając wicemistrzostwo republiki, po czym zawieszono działalność klubu[4].
W 1977 klub został reaktywowany pod nazwą Şəfəq (Szefeg), był jedynym zespołem piłkarskim w mieście Ağdam. W 1991 roku Azerbejdżan odzyskał niepodległość i utworzono ligę azerską. W 1993 Ağdam zostało zajęte przez wojska armeńskie, klub podupadł finansowo, mimo to zdobył tytuł mistrza i Puchar Azerbejdżanu a w następnym sezonie wicemistrzostwo. Najgorszy okres w historii klubu to lata 1998-2001. W 2001 roku klub zyskał poważnego sponsora Azərsun, największy holding w Azerbejdżanie i zmienił nazwę na Qarabağ Azərsun (Azersun) Ağdam. W 2003 roku klub zmienił nazwę na obecną. W sezonie 2002/03 Qarabağ zajął 3 miejsce w lidze[4].