Secondo la tradizione la fondazione della città risale a tempi biblici; fu fondata da Sem, figlio maggiore di Noè e capostipite delle popolazioni semite, il quale dopo aver abbandonato il suo paese trovò prima il Rubʿ al-Khālī, il "Quarto Vuoto" - terribile deserto sabbioso - e, successivamente, una terra di alte montagne e valli fertili e decise di fondare una città: Sana'a.