El lugar donde Gouda se ubica actualmente era alrededor del año 1000 un terreno pantanoso salpicado de arroyos tales como el Gouwe. A lo largo de las orillas del Gouwe se comenzó a extraer turba en el siglo XI y el siglo XII, concretamente en donde hoy están situados el mercado y el ayuntamiento. En 1143 se menciona el nombre de Gouda por primera vez en una carta del obispo de Utrecht. Alrededor de 1225 se comunicó a través de un canal el Gouwe con el Viejo Rin y la desembocadura del Gouwe en el IJssel fue agrandada hasta construir un puerto. El castillo de Gouda sirvió para dar defensa a dicho puerto.

La ruta así creada fue utilizada para el comercio de Flandes y Francia con Holanda y la zona del Mar Báltico. En 1272 el conde Florencio V otorgó los fueros a la ciudad, que mientras tanto había adquirido una considerable importancia. Hubo de sufrir dos incendios importantes en 1361 y 1438. En 1572 la ciudad fue ocupada por los protestantes sublevados contra Felipe II, incendiaron un monasterio de la ciudad y saquearon otro más. En 1577 se llevó a cabo la demolición del castillo. Como muchas otras ciudades de los Países Bajos, Gouda también fue afectada por la peste en 1602. Hasta 1750 no llegó a recuperarse la cifra de población perdida.

A partir de 1830 se comienzan a derribar las murallas de la ciudad, acabándose con la última puerta de acceso a la ciudad en 1854, y en 1855 entra en servicio el ferrocarril Gouda-Utrecht.

En 1940 fue terraplenado el canal Nieuwehaven, al que siguieron más tras la Segunda Guerra Mundial. En 1944 la estación de ferrocarril fue destruida por un bombardeo aliado. En 1977 se trasladó el mercado de ganado porcino, el mayor de los Países Bajos, a terrenos fuera de la ciudad.