העיירה קולמר נוסדה במאה התשיעית לספירה. זהו המקום שבו קרל השמן ערך את האספה הפרלמנטרית שלו בשנת 884. בשנת 1226 קיבלה העיר לראשונה מעמד של עיר קיסרית באימפריה הרומית הקדושה וב-1354 הצטרפה לדקאפול. בשנת 1575 הצטרפה העיר לרפורמציה הפרוטסטנטית, הרבה לאחר שכנתה, שטרסבורג.

במהלך מלחמת שלושים השנים הייתה העיר תחת כיבוש שוודי במשך שנתיים. השוודים השתלטו על העיר בשנת 1632 ואיבדו את השליטה בה בשנת 1634.

צרפת, תחת שליטתו של לואי הארבעה עשר, כבשה את העיר בשנת 1697. בשנת 1679, במסגרת חוזה נימווגן, קולמר הועברה לשליטת צרפת. יחד עם שאר חבל אלזס, קולמר סופחה לאימפריה הגרמנית עם הקמתה בשנת 1871 כתוצאה ממלחמת צרפת–פרוסיה. היא הוחזרה לידי צרפת בשנת 1919, במסגרת חוזה ורסאי, לפיו כל השטחים שנכבשו על ידי הקיסרות הגרמנית הוחזרו לצרפת (סעיף 51).

בשנת 1940 נכבשה אלזס שוב על ידי גרמניה הנאצית וסופחה לרייך השלישי. היא חזרה לשליטה צרפתית בשנת 1945 אחרי הקרב שנקרא על שם האזור "כיס קולמר". מאז ועד היום העיר נשארה בשליטה צרפתית.[1]