La Masjid-i Jāmiʿ di Herat, la prima moschea congregazionale della città, fu costruita sul sito di due piccoli templi di fuoco zoroastriani distrutti dal terremoto e dal fuoco. Una moschea fu iniziata dal sovrano ghuride Ghiyāth al-Dīn Ghūrī nel 1200 (597 AH), e, dopo la sua morte, l'edificio fu continuato da suo fratello e successore Muhammad di Ghur. Ciò è confermato sia da un'iscrizione sul portale orientale ghuride scoperta nel 1964 durante un restauro, sia dallo storico timuride cinquecentesco Muḥammad Kwāndamīr nella sua Khulāṣat al-akhbar.

Nel 1221, Gengis Khan conquistò la provincia, e insieme a gran parte di Herat, il piccolo edificio cadde in rovina. Fu solo dopo il 1245, sotto Shams al-Dīn Muhammad Kart[1] che tutti i programmi di ricostruzione furono intrapresi, e la costruzione della moschea non fu iniziata fino al 1306. Tuttavia, un devastante terremoto del 1364 lasciò l'edificio quasi completamente distrutto, anche se si tentò di ricostruirlo.

Dopo il 1397, i governanti timuridi dirottarono la crescita di Herat verso la parte settentrionale della città. Questa suburbanizzazione e la costruzione di una nuova moschea congregazionale nella Muṣallā di Gawhar Shad segnarono la fine dell'importanza della Masjid-i Jāmiʿ da parte della monarchia.

La sostituzione della piccola moschea in rovina fu realizzata con la costruzione di un edificio completamente nuovo con giardini circostanti, che fu completato da Jalāl al-Dīn Fīrūzshāh, uno dei più eminenti emiri di Shah Rukh (1405-1444). Le decorazioni da sole impiegarono più di cinque anni per essere completate, poiché l'emiro portò lavoratori da tutto l'impero. La moschea fu successivamente restaurata definitivamente sotto l'impero Mughal, quando il principe Khurrām (Shāh Jahān) stava combattendo per il controllo della regione contro le tribù uzbeke.

Poco rimane della moschea medievale, dopo le guerre anglo-afghane gran parte della moschea è stata distrutta. Un programma lanciato nel 1945 ha ricostruito pareti e stanze, ha ampliato la sezione nord-orientale della moschea da una lunghezza di circa 101 metri a 121 metri e ha sostituito i materiali costosi provenienti da tutto il Medioevo timuride e mughal con materiali a basso costo disponibili localmente. Nel complesso, le molteplici ricostruzioni e i programmi di restauro della moschea hanno lasciato poco da certificare come originale. Tuttavia rimane il portale ghuride inscritto, a sud dell'attuale ingresso principale della moschea.[2]

Nel 2012, una cinquantina di commercianti afghani ha promesso fondi per il rinnovamento della moschea.[3]