Gabes je bil pomembno mesto v sklopu nekdanje Kartagine. Po drugi punski vojni v 2. stoletju pr. n. št. je prišlo pod rimsko oblast z novim imenom Tacape.

Prelomna točka za mesto je bilo osvajanje Arabcev v 7. stoletju n. št. Mestu je takrat zavladal Sidi Abou Loobaba Al'Ansarey ter začel njegovo prenovo.

Leta 1881 je mesto skupaj s celotno Tunizijo prešlo v francoski protektorat. V današnjem času med prebivalci mesta velja, da so Judje - mestna manjšina, ki je sicer uživala vse svoje pravice in ugled - odigrali pomembno vlogo glede padca mesta in sodelovanja z okupatorskimi francoskimi silami.

V drugi svetovni vojni, leta 1940, je mesto zavzela nemška vojska. Britanske oborožene sile so mesto zatem osvobodile leta 1943, pri čemer je prišlo do ostrih spopadov - mesto je bilo delno porušeno. Oblast pa je zopet prevzela Francija ter po koncu vojne leta 1945 pričela temeljito obnovo.