現存の大聖堂[1]は3代目で、初代が完成したのは4世紀のことであった。正方形の建物で、もっとも古い聖堂として知られていた。　

2代目は818年に完成し、12世紀後半に東方三博士の聖遺物が置かれたことで多くの巡礼者を集めて[2]、ケルンの発展に貢献したが、1248年4月30日に火災で焼失した。その年の8月15日に礎石が据えられて3代目の建設が始まったが、16世紀に入って宗教改革を発端とした財政難のため工事が途絶し、正面のファサードの塔がひとつしかない状態が続いた[3]。建設が再開されるのは19世紀に入ってからだった。

ナポレオン戦争の影響によりドイツでナショナリズムが高揚する中、中世ドイツに自民族の伝統を探し求める動きが強まった。建築ではゴシック・リヴァイヴァルの潮流が強まり、建設途中であったケルン大聖堂に注目が集まったため、1842年に建設が再開され、もうひとつの塔の完成が急がれた。すべてが完成したのは建設開始から600年以上が経過した1880年のことである[4]。同年8月14日にはドイツ皇帝ヴィルヘルム1世臨席の下、国家行事として完成祝賀式典が催された[5]。高さ157メートルの大聖堂はアメリカのワシントン記念塔（高さ169メートル）が完成する1884年まで建築物としては世界一の高さを誇った。「皇帝の鐘」と称される鐘が南塔にとりつけられたが、第一次世界大戦の際に接収され、溶かして武器の生産にあてられてしまった。

大聖堂は第二次世界大戦時のケルン市に対する英米軍の空襲で14発の直撃弾を受けた。内部は激しく破壊されたものの全体は崩れなかったため、1956年まで復旧工事が行われ、元の状態に復元された。この際に周囲の廃墟から再利用した粗悪なレンガで復旧された部分が残っていたが、1990年代に入り空襲前の外観に戻す作業が始まっている。また、修復の一環として破損したステンドグラスの一部がゲルハルト・リヒターによる近代的なモザイク風の市松模様のものに置き換えられたが、これについてはいまだに賛否両論がある。

1996年、ユネスコの世界遺産（文化遺産）に登録されたものの、周辺の高層建築物計画による景観破壊の危機にさらされた。2004年には危機遺産に指定されたが、大聖堂の周囲に高さ規制を敷くなど市当局の懸命な努力により2006年をもって解除された。

2005年8月18日にはローマ教皇ベネディクト16世が自ら大聖堂を訪問している。

2015年12月31日には大聖堂前広場でアラブ人・北アフリカ人によってケルン大晦日集団性暴行事件が引き起こされた[6]。

なお、漫画家水木しげるは「コローンの悪魔」と題する妖怪譚において、ケルン大聖堂の設計図を描いた建築家は、その際に悪魔の助けをかりた。代わりに悪魔に自分の魂を譲り渡す約束であったが、十字架を悪魔の「鼻さきにつきつけ」、悪魔を退散させる。怒った悪魔が呪いをかけたために、彼の名前は知られることがなかったとしている[7]。