Nykyisellä moskeijalla on kaksi edeltäjää. Niistä ensimmäisen rakennutti perimätiedon mukaan Djennén kuningas Koi Konboro aikana, jolloin kaupunki oli merkittävä kaupan ja islamilaisen oppineisuuden keskus. Alkuperäiseen rakennukseen lisättiin myöhemmin useita torneja ja se ympäröitiin muurilla.[1]

Fulbevaltio Macinan hallitsija Ahmadu Lobbo valtasi Djennén vuonna 1818. Hän alisti kaupungin väkivaltaisesti, sulki sen moskeijat ja jätti ne raunioitumaan. Ankaran fundamentalistinen Ahmadu rakennutti vanhan moskeijan itäpuolelle oman moskeijansa vuosina 1834–1836. Se oli ulkonäöltään paljon vaatimattomampi ja yksinkertaisempi, mutta pinta-alaltaan laajempi.[1]

Vanhan moskeijan raunioiden paikalle pystytettyä nykyistä moskeijaa on pidetty pitkään Ranskan siirtomaahallinnon luomuksena. Nykykäsityksen mukaan sen rakennutti paikallinen eliitti, joka halusi lisätä kaupungin arvovaltaa ja pyyhkiä pois muiston Ahmadun fulbevallasta. Arkkitehtinä toimi Djennén muurarikillan päällikkö Ismaila Traoré. Ranskalaiset osallistuivat rakentamisen kuluihin ja toimittivat työmaalle pakolla värvättyä työvoimaa. Ahmadun moskeija purettiin ja sen paikalle pystytettiin madrasa.[1]