Ozemlje med visoko ležečimi gorami je bilo naseljeno že 1000 let pr.n.št., Inki pa so se tod naselili okoli leta 1200.

Cusco stoji na temeljih več kultur: Tawantinsuyu (star inkovski imperij) je bil zgrajen na temeljih zgradb ljudstva Killke, Španci so na temeljih nekdanjih templjev zgradili katoliške cerkve, palače in dvorce.

Kultura Killke je živela na območju današnjega Cusca v letih 900-1200. Datiranje kompleksa zidov v Sacsayhuamán nad Cuscom je pokazalo, da je kultura Killke zgradila trdnjavo okoli leta 1100. Inki so kasneje zasedli kompleks in ga v 13. stoletju in kasneje, razširili. Z izkopavanji v letu 2007 so našli na robu trdnjave tempelj, ki kaže tako na versko kot vojaško uporabo objekta. 13. marca 2008 so arheologi na lokaciji Sacsayhuamán odkrili še ruševine antičnega templja, cestišča in akvadukta. [1]

Cusco je postal glavno mesto Inkovskega imperija v 13. stoletju, pomemben pa je postal v 15. stoletju.

Dva velika Inka, Pachacutec (1438-1471) in Tupac Yupanqui (1471-1493), ki sta vladala 20 let, sta zaslužna za izgradnjo in urbanizacijo mesta, ki jo je obdržalo še do danes. Prvi od obeh vladarjev (nekateri mu pripisujejo tudi gradnjo Machu Picchuja) je želel ustvariti idealno mesto, ki bi ustrezalo več funkcijam glavnega mesta: po regulaciji dveh glavnih rek (Saphi in Tullumayo), katerih poplave so redno povzročale težave prebivalcem starega Cuzca, je bila določena zasnova za zelo hierarhično organizacijo, v kateri so bile v mestnem središču združene upravne in verske funkcije, medtem ko so se na odročnih območjih in okoliških krajih nahajale obdelovalne površine (Cayaucachi, Claquillchaca, Picchu , Quillipata, Carmenca, Huacapunco, itd. so bile enote kmetijske, obrtne in industrijske proizvodnje).

Mnogi menijo, da imelo mesto v tlorisu podobo pume, za Inke svete živali. Mesto je bilo razdeljeno na dva dela: urin in hanan. Vsak se je nadalje delil na več provinc, Chinchasuyu (SZ), Antisuyu (SV), Qontisuyu (JZ) in Qullasuyu (JV). Med seboj so bili kraji povezani s cestami, ki so vodile v štiri dele imperija. Vsak lokalni vodja je moral v mestu zgraditi hišo in četrtino leta, ki je ustrezala delu imperija iz katerega je izhajal, preživeti v Cuscu. Ko je Inka umrl, je po pravilih njegov naslov prešel na enega od sinov, njegovo lastnino pa so dedovali tudi drugi njegovi sorodniki. Vsak nosilec naslova je moral zgraditi novo hišo in dodati nove dežele v cesarstvo, da bi lahko lastnik zemlje in njegova družina imeli dovolj za vzdrževanje po njegovi smrti.

Po inkovski legendi je mesto prvi zgradil Inka Sapa Pachacuti, človek, ki je preoblikoval kraljestvo Cuzco iz zaspane mestne države v veliki imperij Tahuantinsuyu. Arheološki dokazi kažejo na počasnejšo, bolj organsko rast mesta, ki se je začela že pred Pachacutijem.

Po smrti Huayna Capaca leta 1527, ki je cesarstvo razdelil sinovoma, je mesto pripadlo sinu Huáscarju. V državljanski vojni med bratoma je aprila 1532 v bitki pri Quipaipanu, brat Atahualpa prevzel oblast nad celotnim imperijem. Devetnajst mesecev kasneje so v mesto vdrli Španci.

Prvi Španci so prišli v mesto 15. novembra 1533. Francisco Pizarro je uradno prišel v Cusco 23. marca 1534. Številne stavbe, zgrajene po koncu španske invazije, so mešanica avtohtone inkovske arhitekture s španskimi vplivi.

Španci so uničili večino zgradb, ki so predstavljale nekdanjo politično in versko simboliko in zgradili nove, agresivno katoliške in španske, vendar na občudovanja vrednih porušenih zidovih prejšnjih stavb. Huaccapayta, center inkovskega imperija, obdan s palačami Pachacuteca, Viracoche in Huayna predstavlja danes trg Plaza de Armas, palača Viracocha je bila porušena in na njenem mestu zgrajena katedrala, ki se je začela graditi leta 1560, Acclahuasi je danes samostan Santa Catalina, Coricaucha je bila deloma uničena, da bi naredili prostor za samostan Santo Domingo de Guzman, itd.

Leta 1536 so pod vladavino Inke Manco Yupanquija, po desetmesečnem obleganju pod vodstvom Inke Sapa, za nekaj dni mesto ponovno zavzeli Inki. V tej vojni je umrlo mnogo inkovskih in španskih bojevnikov.

Cusco je bil izhodišče za špansko kolonizacijo in širjenje krščanstva po andskem svetu. To je postalo zelo uspešno po zaslugi kmetijstva, živinoreje in rudarstva ter trgovine s Španijo. Španski naseljenci so zgradili številne cerkve in samostane, katedralo, univerzo in nadškofije.

Prvi velik potres je prizadel Cusco leta 1650. Zadnji velik potres, ki je v Cuscu povzročil veliko škodo, je bil 21. maja 1950. Med najbolj prizadetimi sta bila Dominikanski samostan in cerkev Santo Domingo, ki sta bila zgrajena na temeljih veličastnega templja Coricancha (tempelj Sonca). Stara inkovska arhitektura je potres dobro prenesla. Stari inkovski granitni zidovi templja Coricancha so ostali nepoškodovani, kot tudi druge stare zgradbe v mestu. Restavratorska dela na kompleksu Santo Domingo so bila izvedena tako, da je bil izpostavljen inkovski del, ne da bi ogrozili celovitost kolonialne dediščine. Sicer je bilo v potresu uničenih tretjina zgradb v mestu.

Po razglasitvi neodvisnosti Peruja leta 1821, je Cusco ohranil svoj pomen v upravni hirearhiji države. Vlada je ustanovila Ministrstvo za Cuzco, ki je bilo zadolženo za opravljanje oblasti nad območjem, ki je segalo vse do brazilske meje. Cusco je postalo najpomembnejše mesto v jugovzhodni andski regiji.

Na začetku 20. stoletja se je mestno urbano območje razširilo na sosednje okraje Santiago Wanchaq.

Leta 1911 je raziskovalec Hiram Bingham uporabljal mesto kot izhodišče za ekspedicije, na katerih je ponovno odkril ruševine Machu Picchuja.