העיר נוסדה בידי הסוחר הפרסי עלי בן אל-חסן, בסביבות שנת 975. במאות הבאות הפכה העיר למרכז של סחר בזהב, ברזל, שנהב ובעבדים שהגיעו מאפריקה, וכן של טקסטיל, תכשיטים, חרסינה ותבלינים שהגיעו מצדו האחר של האוקיינוס ההודי - מאסיה.

עד המאה ה-13 הפכה העיר לחזקה שבערי מזרח אפריקה, והייתה לה השפעה גם על המסחר במוזמביק ובזימבבואה של ימינו. אבן בטוטה, שביקר בה בשנים 1332-1331, תיאר אותה כאחת הערים היפות בעולם, וכן ציין לטובה את צניעותו ונדיבותו של הסולטאן, אל-חסן אבן סוליימאן. בתקופה זו נבנה ארמון חוּסוּנִי קוּבְּוָוה והמסגד הגדול הורחב. לקראת סוף המאה ה-14 החלה העיר לרדת מגדולתה, בד בבד עם עלייתה של סופלה, במוזמביק של ימינו.

ב-1505 השתלטו על העיר הפורטוגזים, ואולם שלטונם בה נמשך שבע שנים בלבד, וב-1512 היא נכבשה בידי שכירי חרב ערבים. אלה לא הצליחו להשיב לה את מעמדה, ובמהלך המאה ה-17 היא חרבה. ב-1784 השתלטו עליה שליטיה העומאנים של זנזיבר, והשתמשו בה כמרכז לסחר בעבדים. בשנות ה-40 של המאה ה-19 היא ננטשה סופית.

האי היה לחלק ממזרח אפריקה הגרמנית בין 1886 ל-1919, ועד לעצמאות טנזניה ב-1961 היה חלק מהמושבה הבריטית טנגניקה.