春秋戦国時代、燕が居庸塞と称される要塞を建築したのが初見である。同時代史料である『呂氏春秋』には「天下九塞、居庸其一」と記述されている。

後漢の時代には大規模な要塞として整備され、南北朝時代、北魏により長城と連結され、以降歴代王朝が長城線上の重要拠点として軍隊を駐留させている。

明代には北方に駆逐された元軍の再侵略を防衛するために大規模な長城改修が行われた際、居庸関もより強固な要塞として改修された。

清代には朝廷の統治範囲が長城線よりも北方に拡大され、北方異民族に対する防衛拠点としての性格が希薄となり荒廃が進んだ。

再び軍事拠点として居庸関が注目されたのは1937年の盧溝橋事件を発端とした日中戦争である。中国軍がチャハル作戦を実行する日本軍に抵抗する際の拠点として使用されている。

1990年代以降は明代の状態に復元が進み、万里の長城と共に北京を代表する観光地となっている。