在19世纪社会文化艺术风气的影响下，深受洪堡兄弟影响的普鲁士国王弗里德里希·威廉三世下令建造一座博物馆，用以展示收藏的艺术品。博物馆选址在当时普鲁士王宫的对面，附近有兵工厂和柏林大教堂。这构成了当时普鲁士首都的中心标志性建筑群。博物馆最初叫皇家博物馆（Königliches Museum），1845年改为现名。

在旧博物馆之后，博物馆岛陆续建起新博物馆、旧国家画廊等四座博物馆，形成一个博物馆建筑群。旧博物馆自1904年起以收藏古典艺术品为主。在第二次世界大战的最后两年里，旧博物馆遭到严重地损坏。二战后，博物馆岛被东德所控制，并开始着手对旧博物馆进行修复，该项工作一直持续到1966年。自这之后，旧博物馆主要展览东德的当代艺术和举办特别展览为主。

两德统一以后，在旧博物馆的一楼开始重新展出古希腊艺术品。在2010年在二楼新增了伊特鲁里亚和古罗马艺术品的展览。目前旧博物馆在“博物馆岛蓝图2015”（Masterplan Museumsinel Berlin 2015）的改造计划当中。[1][2]