Il cimitero fu fatto edificare fuori delle mura cittadine su una montagnola in prossimità della porta a Pinti (oggi distrutta), a spese di una società che rappresentava la Chiesa evangelica riformata svizzera e che aveva acquistato l'area dal governo granducale nel 1827 per realizzare un cimitero internazionale ed ecumenico, anche per i russi e i greco-ortodossi. Prima di allora i non cattolici e non ebrei che morivano a Firenze potevano essere sepolti solo a Livorno (all'antico cimitero degli inglesi). Carlo Reishammer, allora giovane studente di architettura, disegnò per primo quello che venne poi chiamato il cimitero "degli Inglesi", con un recinto poligonale diverso dall'attuale[1]. Nel 1858 fu eretta alla sommità della montagnola una colonna offerta da Federico Guglielmo IV di Prussia, che tuttora segna l'incrocio tra i due principali vialetti inghiaiati che dividono in quattro settori la superficie. Al 1860 è documentata un'ulteriore cessione di terreno per ampliare l'area cimiteriale che, in questa stessa data, si arricchì ugualmente del semplice edificio che ancora oggi ne segna l'entrata.

Giuseppe Poggi gli diede la sua attuale forma ovale quando a Firenze, divenuta capitale d'Italia nel 1865, demolì le mura e creò i viali di Circonvallazione, ideando l'ovale di piazza Donatello con l'"isola" cimiteriale. Il cimitero si definì quindi come area soprelevata al centro del nuovo piazzale, delimitata dalle due corsie di scorrimento dei nuovi viali, tanto da acquisire, in questo suo isolamento, l'appellativo di "isola dei morti", appunto. Fu in questa occasione che all'originaria forma poligonale si andò a sostituire l'attuale pianta ovale, più consona ad essere lambita dagli assi stradali.

Nel 1877, essendo oramai il cimitero compreso all'interno della nuova città, fu proibito alla comunità protestante l'uso del luogo per nuove sepolture (recentemente ripreso) per cui per lungo tempo l'isola mantenne inalterato il proprio carattere ottocentesco che ancora fortemente la caratterizza: la comunità non cattolica da allora iniziò ad usare il cimitero degli Allori in zona Galluzzo.

Le inumazioni tra il 1828 e il 1877 avevano d'altra parte portato a saturare in buon parte l'isola, con la realizzazione i 1409 tombe riferibili a sedici nazioni diverse, con una prevalenza di inglesi (760 tombe), fatto che - assieme all'uso di identificare i protestanti con questi - aveva portato a far definire dai fiorentini il cimitero come "degli Inglesi", nonostante la proprietà svizzera.

La presenza di tombe coronate da statue o da altri elementi scolpiti, l'irregolare disposizione delle sepolture, il tracciato dei vialetti che salgono sulla montagnola, la presenza di una certa varietà di essenze arboree ed arbustive, rendono il luogo di grande suggestione e assolutamente rappresentativo di quella dimensione pittoresca che l'Ottocento romantico - e in particolare la colonia di stranieri che aveva scelto Firenze come seconda patria - coniugava con la storia medioevale e rinascimentale della città.

Tra gli interventi che hanno consentito la conservazione nel tempo del cimitero si ricorda quello sommario ma complessivo della struttura promosso in cooperativa con l'Azienda autonoma di turismo nel 1946 (a riparare i danni inferti da un bombardamento americano), e i molti cantieri che negli ultimi decenni sono intervenuti sui singoli monumenti e lapidi.