La ville fut fondée par les musulmans d'Al Andalus, au Moyen Âge. Des découvertes archéologiques réalisées dans les environs ont toutefois permis d'attester d'une présence humaine depuis la préhistoire. Ce sont les Romains qui organisèrent la région, comme en témoigne encore l'antique chaussée romaine unissant Ubrique à Benaocaz. Les Romains, arrivés avec le général Scipion au moment de la deuxième guerre punique, fondèrent à proximité du bourg actuel une bourgade connue sous le nom de Lacidulia, du nom que portait alors le Guadalete (Cilbus).

À la suite de la conquête musulmane de l'Hispanie, la région fut colonisée par les arabes et les berbères, qui continuèrent à faire prospérer l'élevage des ovins, et développèrent l'exploitation forestière, l'agriculture et la production textile. Le village fut baptisé Raisa lani suli ("ville des Banu al-Salim"), puis Ben-salama ("fils de Zulema"), et postérieurement Gran Zulema et Zagrazalema.

Le village de Zagrazalema fut reconquis en 1485 par le Duc d'Arcos. Ce dernier, représentant de la maison nobiliaire des Ponce de León, l'intégra à ses domaines qui s'étendaient sur une grande partie de l'actuelle province de Cadix. La prise du village survient alors que les Rois catholiques menaient la reconquête du Royaume de Grenade, dans le giron duquel Grazalema s'était maintenue depuis le XIIIe siècle. C'est à compter du XVIIe siècle que la ville va connaître une époque d'apogée économique, grâce à l'industrie drapière, alimentée par la production lainière de la contrée[1].

Le déclin de l'industrie textile et de l'élevage ovin entraînent un important exode rural dès le début du XXe siècle. Le village connaît aujourd'hui une nouvelle jeunesse, grâce au tourisme.