Nara werd gesticht door keizerin Genmei onder de naam Heijō om dienst te doen als hoofdstad voor Japan. De naam Nara kwam pas later in gebruik, maar de periode waarin Heijō de hoofdstad van Japan was (710-784) heet desondanks de Naraperiode. Heijō volgde in deze hoedanigheid Fujiwara op.

De plattegrond van de stad was gebaseerd op die van de toenmalige Chinese hoofdstad Chang'an. Er was een rechthoekig stratenpatroon, met het keizerlijke paleis aan het noordelijke uiteinde. Ook lagen er in de stad veel boeddhistische kloosters. Hoewel de stad maar een kwart van het formaat had van het Chinese voorbeeld, was het nog te groot voor de relatief kleine Japanse hofhouding en entourage. Het westelijke deel van de stad is nooit gebouwd zoals gepland. Toch was het geen kleine stad; het inwoneraantal wordt door sommigen geschat op 100.000 aan het begin van de eeuw, groeiend tot 200.000 in 784.

Volgende keizers ondernamen diverse pogingen om een nieuwe hoofdstad te bouwen. Het was uiteindelijk Kanmu die in 784 Heijō verliet. Hij had een nieuwe hoofdstad gebouwd in Nagaoka, maar in 794 verhuisde hij opnieuw, naar Heian, het latere Kioto, dat daarna meer dan 1000 jaar lang de keizerlijke residentie zou blijven. Nara verloor na 784 snel aan belang en grootte.

In de moderne tijd is Nara de hoofdstad van de gelijknamige prefectuur. De stad kreeg deze status op 1 februari 1898. Latere gemeentelijke herindelingen, met als laatste die van 1 april 2005 waarbij de dorpen Tsuge en Tsukigase werden geabsorbeerd, hebben de stad verder laten groeien.

Op 8 juli 2022 werd de voormalige Japanse premier Shinzo Abe er neergeschoten terwijl hij campagne aan het voeren was voor de verkiezingen. Hij overleed in het ziekenhuis aan zijn verwondingen.