ארטוסתנס ופסאודו-סקילקס (מהמאות השלישית והרביעית לפנה"ס בהתאמה) מזהים את ג'רבה עם ארץ הלוטופגים (Lotophagoi), ארץ אוכלי הלוטוס אליה הגיע אודיסאוס במסעותיו כמסופר אצל הומרוס[1]. בכתבי הומרוס עצמו (מן המאה התשיעית לפנה"ס) יש רק רמז לכך[2].

במאה ה-8 לפנה"ס הוקמה במקום על ידי הפיניקים תחנת מסחר שנקראה ביוונית מנינקס (אנ'), והפכה מאוחר יותר לתחנת מסחר רומית שעסקה בעיקר בייצוא בדים צבועים שני. בשנת 655 לספירה נכבשה ג'רבה על ידי הערבים והפכה לחלק מתוניסיה. במאה ה-16 שימש האי בסיס ימי זמני לרבי החובלים, שודדי הים, העות'מאנים האחים ברברוסה: אורוץ'; ולאחר מותו, ח'יר א-דין.

בשנת 2002 פוצצה מכונית תופת בסמוך לבית הכנסת אלגריבה באי, על ידי מחבלים שהיו קשורים לארגון אל-קאעידה. 16 מטיילים גרמניים נהרגו.