Algidee avada İstanbulis arheoloogiamuuseum tuli Osmanite riigi sultanilt Abdülazizilt, kes külastas 1867. aasta suvel arheoloogiamuuseume Pariisis, Londonis ja Viinis.[1] Muuseum otsustati rajada Kuldsarve lahe vasakpoolsele kaldale Topkapı palee kaugemate aedade piirkonda praeguse Gülhane pargi serva.

Hoone arhitektiks valiti Prantsuse-Osmani päritolu Alexander Vallaury, kes andis sellele Vana-Kreeka stiilis välimuse. Hoone esifassaadi juures kasutas ta ära hiljem muuseumis eksponeeritud Aleksander Suure sarkofaagi (4. saj e.m.a) ja "Leinavate naiste sarkofaagi" elemente. Hoone on praegugi üks esinduslikumad uusklassitsistliku stiili näiteid İstanbulis.

Muuseum avati 1891. aastal ning selle asutaja ja esimene kuraator oli Osman Hamdi Bey, kes oli tuntud arheoloog, kultuuritegelane ja kunstiasjatundja. 1883. aastal oli Osman Hamdi Bey eestvõtmisel avatud kunstikool ning see kohendati 1935. aastal Vana Idamaa muuseumiks. 1953. aastal lisandus neile Türgi ja islamikunsti muuseum, nüüdne islamikunsti muuseum. Selle muuseumi ajalugu ulatub 19. sajandi lõppu, kui seal oli avatud imperaatorlik muuseum.[2]