세계에서 오랜 역사를 자랑하는 도시 가운데 하나로 여겨진다. 전설에 따르면 노아의 아들인 셈이 사나를 세웠다고 한다. 현재의 지명인 사나는 남아랍어로 "견고한 요새"를 뜻한다.

고대에는 '아잘'(Azal)이라고 불렀으며 3세기 중반에는 궁전, 요새 역할을 했던 굼단 궁전(Ghumdan)이 건설되었다. 이슬람교가 전파된 뒤에 칼리파 체제가 들어서면서 사나는 쇠퇴하게 된다. 1517년부터 1918년까지는 오스만 제국의 지배를 받았다.

1918년에는 오스만 제국에서 독립한 예멘 왕국의 수도가 되었다. 1948년에는 예멘 왕국이 수도를 타이즈로 이전했지만 1962년 예멘 아랍 공화국(북예멘)이 수립되면서 수도를 사나로 다시 이전했다. 1990년 북예멘이 남예멘(예멘 인민민주공화국)과의 통일이 된 뒤에도 사나는 예멘의 수도로 남았다. 2015년 2월에 후티 반군이 예멘의 수도인 사나를 점령하면서 예멘 정부는 아덴을 임시 수도로 정했다.