Keskaegsete hoonete alt on leitud 8000 aasta vanuseid haudu ja keraamikat neoliitikumi ajast. Eelajaloolise asula esimesed väljakaevamised toimusid 1911–1914 Saksa arheoloogi Ernst Herzfeldi juhtimisel. Ühe esimese linnriigina Lähis-Idas andis Sāmarrā' nime umbes 5500–4800 kestnud Sāmarrā' kultuurile Põhja-Iraagis. Asula ise püsis omanimelisest kultuurist kauem ning kadus umbes 3900 eKr.

Pole täpselt teada, kas Sāmarrā' oli Sur-marrati nimeline Assüüria kindlus, millele viitas Sanherib 690. aastast eKr säilinud steelil. Veebileht The State Archives of Assyria Online omistab linnale ka nimekuju Surimarrat.

Linna antiikaegsete nimede seas on ka kreeka Souma (Ptolemaios V.19, Zosimos III, 30), ladina Sumere, Julianuse armee taganemisega seoses 363 pKr mainitud kindlus (Ammianus Marcellinus XXV, 6, 4) ning süüria Sumra (Hoffmann, Auszüge, 188; Michael Syrus, III, 88), mida kirjeldatakse külana.

Rahvaarv sai taas suurenema hakata, kui 6. sajandil rajati (oletatavasti Khosrau I (531–578) käsul) Qatul al-Kisrawi kanal, mis tõi Nahrawan kanali kaudu Tigrise vee Sāmarrā' piirkonda.

836. aastal tõi Abbasiidide kaliif Al-Mu'tasim oma pealinna Tigrise kaldale Sāmarrā'sse. Nestoriaanliku kiriku patriarh Sargis (860–872) tõi Bagdadist sinna ka idakiriku patriarhaadi. Nii kujunes Sāmarrā'st mõneks ajaks islamimaailma suurim ja tähtsaim linn.

Kaliifide residentsiks jäi Sāmarrā' 892. aastani, mil kaliif Al-Mu'tadid naasis Bagdadisse. Seejärel käis linn alla, kuid rahapaja püsis selles 10. sajandi alguseni. Hiljem linn sisuliselt hüljati pikaks ajaks ning selle ajalooline osa moodustab tänini ulatusliku varemetevälja.