במאה ה-19 שכנה בקרבת ג'ובה תחנת הסחר והמיסיון הנוצרי גונדוקורו ששימשה גם כביתו של סמואל בייקר, מגלה ארצות בריטי, במהלך מסעותיו בדרום סודאן וצפון אוגנדה של ימינו, בין השנים 1863–1865 ו-1871–1873.[1]

בשנת 1922, הגיעה לאזור קבוצה קטנה של סוחרים יוונים שהקימה את חלקה המערבי של העיר בגדה המערבית של הנילוס הלבן. הסוחרים, שהיו ביחסים טובים עם ילידי המקום, בנו את מרכז העסקים הראשי של העיר הכולל את מבנה הבנק המסחרי בופאלו, הבנק המסחרי נילוס, בית המלון פארדייס, בית הקונסול הנורווגי ומבנים נוספים שנבנו במקור על ידם.

בין השנים 1899 ל-1956 הייתה ג'ובה תחת שלטון אנגלו-מצרי, כסודאן כולה. הבריטים שאפו לצרף את אזור הדרום לאוגנדה, אלא שבוועידת ג'ובה ב-1947 נקבע כי צפון סודאן ודרומה יאוחדו למדינה אחת. ב-1955 הצית מרד של חיילים דרומיים בעיר טוריט את מלחמת האזרחים הסודאנית הראשונה, שנמשכה עד 1972.

ב-1983 פרצה מלחמת האזרחים הסודאנית השנייה, מלחמה בין השלטון המרכזי בח'רטום לבין האוכלוסייה השחורה בדרום סודאן. ג'ובה שימשה בה כבירת המורדים, כשקרבות רבים נערכים בקרבתה. פליטים רבים מאזור ג'ובה נמלטו במהלך המלחמה, בין היתר אל שכנותיה של סודאן - קניה ואוגנדה. ב-2005, לאחר סיום המלחמה והחלת אוטונומיה שלטונית לתושבי הדרום, נמסרה העיר לשליטת התנועה הפוליטית של המורדים, התנועה לשחרור העם הסודאני, והפכה לבירתו. האו"ם הקים בקרבת ג'ובה את מחנה OCHA, המשמש את ארגוניו השונים וכן ארגוני מתנדבים.

ב-9 ביולי 2011, הוכרזה ג'ובה באופן רשמי כבירת דרום סודאן, שהתפצלה מצפון סודאן בטקס ההכרזה הרשמי שערכה. אולם, ממשלת דרום סודאן בוחנת אפשרות להקמת עיר בירה חלופית.[2]

בשנת 2014 פורסם כי העיר צפויה להשתקם ולהיות מתוכננת בצורה של קרנף

בשנת 2015 התרחשה התפוצצות מכלית הדלק בג'ובה בה נהרגו כ-200 אזרחים.