De haven van het eiland speelde vanaf de 9de tot de 19de eeuw een zeer belangrijke rol in de handel over de Indische Oceaan. Het hoogtepunt lag in de 13de en 14de eeuw, daarna werd de haven vaak bezocht door Europese ontdekkingsreizigers zoals Vasco da Gama. In 1505 heeft Francisco de Almeida er een vesting gebouwd. De Portugezen gaven het eiland de naam Quiloa en onder die naam was het ook bekend in het Westen. De Portugezen bleven tot 1512. In 1784 kwam Kilwa Kisiwani onder de heerschappij van de al-Busaidi dynastie van Oman en ontwikkelde het zich tot een centrum van de slavenhandel.

Het eiland heeft een sleutelrol gespeeld in het ontstaan van het Swahili en de islamisering van Oost-Afrika. Bovendien geeft het een beeld van de uitgebreide handel uit de Middeleeuwen en de Nieuwe Tijd.

In het gedicht Paradise Lost van John Milton wordt naar dit eiland verwezen.