Największym sukcesem Karstensa było zdobycie złotego medalu na igrzyskach olimpijskich w Tokio w 1964 roku. Złoto Gerben zdobył wyścigu zespołowym wraz ze swoimi kolegami z zespołu Bartem Zoetem, Evertem Dolmanem oraz Janem Pieterse. W wyścigu indywidualnym na tych samych igrzyskach Gerben uplasował się na 27. miejscu. Po zakończeniu igrzysk Karstens kontynuował swoją karierę kolarską wygrywając łącznie 21 etapów w tzw. "Wielkich Tourach": 6 w Tour de France, 14 w Vuelta Espana oraz jedno zwycięstwo w Giro d'Italia. Oprócz tych zwycięstw Gerben został mistrzem Holandii w kolarstwie szosowym w 1966 roku oraz zwyciężał m.in w wyścigu Paryż-Tours oraz formulę GP.
