Początki historii cmentarza sięgają 1856 roku. Wówczas to w celu stworzenia nowego miejsca pochówku wrocławska gmina żydowska zaczęła nabywać działki we wsi Gabitz (Gajowice) przy Lohestrasse (obecnie ul. Ślężna). Zakupiony teren został otoczony murem, uporządkowany, następnie wyznaczono na nim alejki. Jego powierzchnia wynosiła wtedy około 3 ha. Kilka lat później obszar ten został powiększony. Jego łączna powierzchnia wynosi od tamtej pory 4,6 ha.

W początkowej fazie istnienia cmentarza wzniesiono dom przedpogrzebowy oraz mieszkanie inspektora cmentarza. Budynki te jednak, przede wszystkim ze względu na zły stan oraz możliwość pomieszczenia niewielkiej liczby osób, zostały zastąpione w 1912 roku nowymi. Autorami projektu byli bracia: Paul i Richard Ehrlich. Wzniesiono wówczas dwupiętrowy dom zarządu cmentarza, w którym znajdowały się mieszkania inspektora oraz grabarza, biuro i kwiaciarnia, oraz kaplica i latarnia, które zostały postawione przy bramie wejściowej do nekropolii.

Pierwszy oficjalny pochówek odbył się 17 listopada 1856. Był to pogrzeb kupca – Lobela Sterna. Ziemia cmentarna została wówczas pobłogosławiona przez rabina Abrahama Geigera. Można tu znaleźć jednak nagrobki o wiele starsze, bo pochodzące z cmentarzy żydowskich istniejących w średniowieczu. Nagrobki były odkrywane na przełomie poprzednich stuleci w różnych miejscach miasta i następnie przenoszone do centralnego lapidarium. Najstarszy z nich ma wyrytą datę 4 sierpnia 1203 i wzniesiony został Dawidowi, kantorowi „o głosie miłym”.

Wraz z nadejściem II wojny światowej pogrzeby na cmentarzu zaczęły powoli ustawać, a w 1943 został on całkowicie zamknięty. Na niektórych macewach znajdują się ślady po kulach, jest to związane z faktem, iż cmentarz był terenem działań zbrojnych w czasie walk o miasto w 1945.

Nekropolia 24 maja 1975 została wpisana do rejestru zabytków. Niedługo po tym fakcie zaczęły się prace nad odnową otaczającego ją muru, konserwacją nagrobków i alejek. Od 1988 roku możemy odwiedzać to miejsce jako Muzeum Architektury Cmentarnej. Obecnie stanowi ono Muzeum Sztuki Cmentarnej i jest oddziałem Muzeum Miejskiego Wrocławia[1].