Ιδρύθηκε το 1889 και εγκαινιάστηκε το 1890· ο αρχικός στόχος ήταν να συγκεντρώσει και να εκθέσει τα αρχαιολογικά ευρήματα από τις ανασκαφές, που έγιναν έπειτα από την ένωση της Ρώμης με το βασίλειο της Ιταλίας.

Ο αρχικός πυρήνας της συλλογής προέρχεται από το Μουσείο Κιρχεριάνο, στο οποίο είχε συλλέξει αντικείμενα ο αρχαιοδίφης και Ιησουίτης ιερέας Αθανάσιος Κίρχερ· αυτά βρισκόταν πιο πριν στο συγκρότημα Ιησουιτών Σαντ' Ιγκνάτσιο. Η συλλογή αποκτήθηκε από το κράτος το 1874, έπειτα από την καταστολή της Εταιρείας του Ιησού". Στην αρχή ονομάστηκε Ρωμαϊκό Μουσείο και επρόκειτο να μεταφερθεί στο Μουσείο Τιμπερίνο, αλλά αυτό δεν έγινε.

Το 1901 το Ιταλικό κράτος δημιούργησε το Εθνικό Ρωμαϊκό Μουσείο με την πρόσφατα αποκτηθείσα Συλλογή Λουντοβίζι, καθώς και τη σημαντική εθνική συλλογή της Αρχαίας Γλυπτικής. Ευρήματα από την αστική ανανέωση του τέλους του 19ου αι. επίσης προστέθηκαν στις δύο συλλογές.

To 1913 μία υπουργική απόφαση ενέκρινε τον διαμοιρασμό των συλλογών του Μουσείου Κιρχεριάνο στα διάφορα μουσεία, που είχαν ιδρυθεί τις τελευταίες δεκαετίες, όπως το Εθνικό Ρωμαϊκό Μουσείο, Το Εθνικό Ετρουσκικό Μουσείο της βίλα Τζούλια και το Μουσείο του Καστέλ Σαντ' άντζελο.

Η θέση του ορίστηκε στην Καρθουσιανή μονή, που είχε φτιαχτεί από τον Μικελάντζελο τον 16ο αι. μέσα στα Λουτρά του Διοκλητιανού· εκεί τώρα στεγάζονται το επιγραφικό και το προϊστορικό τμήμα του σύγχρονου μουσείου. Η κύρια συλλογή της αρχαίας τέχνης μετακινήθηκε στο κοντινό Παλάτσο Μάσσιμο αλλε Τέρμε, το οποίο αποκτήθηκε από το Ιταλικό κράτος το 1981.

Η μετατροπή του χώρου των αρχαίων λουτρών/Καρθουσιανής μονής σε σε εκθεσιακό χώρο ξεκίνησε με την ευκαιρία της Διεθνούς Έκθεσης Τέχνης του 1911· η προσπάθεια ολοκληρώθηκε τη δεκαετία του 1930.