Die frühesten Zeugnisse der Besiedlung sind die Reste einer prähistorischen Siedlung aus der Mitte des 3. Jahrtausends v. Chr. (Frühkykladikum II) im Norden auf der kleinen Felsenhalbinsel Kastelos (Καστέλος).

Im 5. Jahrhundert v. Chr. unterwarf sich Folegandros zuerst den Persern, trat aber kurze Zeit später dem Attischen Seebund bei. Wegen der unwirtlichen Landschaft bezeichnete Aratos die Insel Siderenia (σιδερένια, σιδηρά γη ‚die Eiserne‘), auch als Echmiri (αιχμηρή ‚die Gezackte‘) war sie in der Antike bekannt. Während der römischen Zeit war die Insel vermutlich Verbannungsort. Römische Münzen wurden in der Chrysospilia (Χρυσοσπηλιά ‚Goldhöhle‘) gefunden.

Vom 13. bis zum 18. Jahrhundert war die Insel immer wieder Piratenüberfällen ausgesetzt. Von der venezianischen Herrschaft bis ins 19. Jahrhundert hieß die Insel Polykandros (Πολύκανδρος) davor Belikentra (Μπελίκεντρα).

Nach der Eroberung Konstantinopels während des Vierten Kreuzzuges wurde Folegandros im Jahr 1207 von Marco Sanudo unterworfen und wurde dessen persönlicher Besitz im venezianischen Herzogtum Archipelagos. Nachdem die venezianische Herrschaft von Sultan Selim II. 1566 beendet wurde übernahmen zwischenzeitlich die Herren von Sifnos, die bologneser Familie Gozzadini, Folegandros, bis es 1617 unter osmanischer Herrschaft kam. Während des russisch-türkischen Krieges wurde die Insel zwischen 1770 und 1774 russisch.

Im Jahr 1828 wurde Folegandros, wie die übrigen Kykladeninseln, Teil des griechischen Staates. Relativer Wohlstand herrschte im 19. Jahrhundert, da Auswanderer aus Konstantinopel und Alexandria die Familien finanziell unterstützten. Vom Beginn des 20. Jahrhunderts bis zum Ende der Militärjunta 1974 wurde Folegandros wieder Verbannungsort.