Nu se cunoaște data exactă când a fost ridicată moscheea, dar se crede că a fost construită probabil cel mai devreme în 1200 și cel mai târziu prin 1330. Conform lucrării Tarikh al-Sudan (Istoria Sudanului) din 1655 a lui Abd al-Sadi, edificiul ar fi fost întemeiat în anul 1240 de către sultanul Kunburu, fiind de fapt fostul său palat convertit în moschee, suferind ulterior mici modificări. După aceea, sultanul și-a construit un nou palat în partea de est a locașului. Din punct de vedere arhitectural, moscheea era construită în stil sudano-sahelian ce are drept caracteristici principale folosirea unor materiale precum argila, lutul, lemnul sau paiele. În scurt timp, orașul Djené a devenit unul dintre cele mai importante centre de învățământ islamic din Imperiul Mali, alături de Timbuktu. Reputația orașului s-a păstrat și a prosperat și în perioada Imperiului Songhai (1468-1591).

În timpul domniei șeicului Amadu Lobbo (1818-1845), întemeietorul Imperiului Massina, moscheea a fost demolată și reconstruită, tot în stil sudano-sahelian dar având planul modificat. În anul 1906, William Ponty, guvernatorul colonial al Africii Occidentale Franceze a fost de acord să reconstruiască moscheea, la cererea șeicului Almamy Sonfo, după modelul vechii moschei a sultanului Kunburu. Contrucția a fost finanțată de către autoritățile franceze și s-a încheiat un an mai târziu, în anul 1907. Lucrările au fost conduse de către Ismaila Traore, șeful brezlei zidarilor din oraș.

Până în anul 1990, au fost introduse diferite inovații pentru modernizarea edificiului, precum introducerea unui sistem de alimentare cu energie electrică și cu apă sau instalarea unor difuzoare în minarete pentru chemarea la rugăciune. Cu toate acestea, autoritățile orașului s-au străduit să păstreze aspectul tradițional al moscheii. În prezent ea este un monument național al statului Mali și este înscrisă încă din anul 1988 pe lista locurilor din Patrimoniul Mondial UNESCO