Ten artykuł od 2007-11 wymaga zweryfikowania podanych informacji.
Należy podać wiarygodne źródła, najlepiej w formie przypisów bibliograficznych. Część lub nawet wszystkie informacje w artykule mogą być nieprawdziwe. Jako pozbawione źródeł mogą zostać zakwestionowane i usunięte. Dokładniejsze informacje o tym, co należy poprawić, być może znajdują się w dyskusji tego artykułu. Po wyeliminowaniu niedoskonałości należy usunąć szablon {{Dopracować}} z tego artykułu.
Klub został założony przez miejscowego przedsiębiorcę Cândido Diasa po tym, jak zobaczył pokazowy mecz piłki nożnej. Członkami klubu byli w większości niemieccy imigranci. Pierwszym prezesem został Carlos Luiz Bohrer. Wśród założycieli klubu był João Stelczyk, Polak z pochodzenia. W tym samym czasie inni niemieccy imigranci założyli Fussball Club Porto Alegre i zaczęła się rywalizacja. W 1904 r. Gremio pokonało swojego rywala 1-0 i tak Gremio podbiło serca kibiców. W tym czasie obowiązywały obostrzenie jeśli chodzi o kolor skóry piłkarzy. Pierwsi czarnoskórzy gracze zagrali dla klubu dopiero w latach pięćdziesiątych. Pierwszy sukces nadszedł w 1981 kiedy klub zdobył mistrzostwo. Dwa lata później klub zdobył Copa Libertadores i Puchar Interkontynentalny. W 1991 klub został zdegradowany do drugiej ligi, ale w 1993 wrócił ponownie do pierwszej. To samo miało miejsce w 2004 r., ale po roku zespół ponownie wrócił do pierwszej ligi.