中国歴史博物館の前身は、1912年7月9日に中華民国教育部が国子監に置いた「国立歴史博物館籌備処」（国立歴史博物館準備室）である。1924年8月1日に正式に一般公開され、1926年に国立歴史博物館という名称になった。

1949年10月1日、中華人民共和国の成立の同日に「国立北京歴史博物館」と改称され中央人民政府文化部に移管された。1959年には更に「中国歴史博物館」と改名している。

中国革命博物館の前身は、1950年3月に成立した「国立革命博物館籌備処」（国立革命博物館準備室）である。1960年に正式に「中国革命博物館」として開館している。

1959年8月、天安門広場の西側に人民大会堂の完成と同時に、対面の広場東側に革命博物館と歴史博物館の入る大規模な建築物が竣工した。1959年10月1日、建国10周年を記念して一般公開された。

2003年2月28日、両館は合併し中国国家博物館に改編される。国家博物館の総面積は65,000平方mあまりで、両翼の間にある中央部分には十二本の巨大な方柱が取り巻く回廊が設けられている。観客はこの門廊を入り、回廊の向こうにある中央大庁へ進む。回廊を挟んだ両翼は南北対称に設計されている。高さは4階建てで40m、幅は149m[1] となっている。

2007年4月からは拡張工事が行われた。旧両博物館の間には広大な中庭が存在したが、その中庭及び旧館の天安門広場から見えない部分を取り壊した跡に新館を建設する形の拡張になる。天安門広場側の旧館の建物は残され、新館の高さも旧館に合わせることにより、天安門広場から見た景観が大きく変化しないように考慮されている。同年春節に発表された設計案によれば、拡張後の総面積は6.5万平方mから19.19万平方mになる[2][3]。拡張および改修はドイツの大手建築事務所、ゲルカン・マルク（Gerkan, Marg and Partners）が担当した[4]。

工事の関係で国家博物館は2007年1月31日から閉館に入っており、2010年3月1日に竣工し、2011年3月17日に世界最大級の博物館として再開館した。