Pierwszymi osadnikami na tych terenach byli Celtowie. W okresie Cesarstwa Rzymskiego, za panowania Klaudiusza powstało tutaj miasto Municipium Claudium Iuvavum, które stanowiło ważny ośrodek rzymskiej prowincji Noricum. W VII wieku dotarł na te tereny św. Rupert podczas swej podróży misyjnej z polecenia księcia Bawarii, Teodora II. W 696 św. Rupert założył klasztor św. Piotra, który jest uważany za najstarszy klasztor na obszarze niemieckojęzycznym, a może nawet i na świecie, oraz żeński zakon benedyktyński Nonnberg.

Św. Rupert został pierwszym biskupem Salzburga oraz nadał miastu nazwę „Salzburg”, co oznacza „Zamek Solny”. Doceniał rolę i wartość soli.

Pod koniec XIV wieku Salzburg uzyskał niezależność od Bawarii. Stał się siedzibą arcybiskupstwa Świętego Cesarstwa Rzymskiego, a po jego sekularyzacji był stolicą Elektoratu Salzburga w latach 1803–1805.

W 1805 r. Salzburg, wraz z Berchtesgaden, został przyłączony do Cesarstwa Austrii.

W 1809 r. obszar Salzburga został ponownie przyłączony do Królestwa Bawarii po przegranej Austrii pod Deutsch-Wagram.

Podczas Kongresu Wiedeńskiego w 1815 Salzburg został ostatecznie przyznany Austrii, natomiast Rupertigau i Berchtesgaden zostały przekazane Bawarii.

Podczas II wojny światowej znajdował się tutaj obóz koncentracyjny. Podczas bombardowania wojsk alianckich zniszczono 7600 domów i zabito 550 mieszkańców. Chociaż uszkodzone zostały most oraz kopuła katedry, większość budynków architektury barokowej zachowała się. Salzburg jest jednym z niewielu miast o tak jednolitym charakterze architektonicznym. Wojska amerykańskie wkroczyły do miasta 5 maja 1945.