Αρχικά, το τζαμί χτίστηκε στο Κρεμλίνο του Καζάν, τον 16ο αιώνα. Πήρε το όνομά της από τον Κολσαρίφ, που υπηρετούσαν εκεί. Ο Κολσαρίφ πέθανε με τους πολυάριθμους μαθητές, ενώ υπερασπιζόταν το Καζάν από τις ρωσικές δυνάμεις το 1552. Πιστεύεται ότι το κτίριο περιείχε μιναρέδες, τόσο με τη μορφή τρούλων όσο και σκηνών. Το σχέδιο ήταν παραδοσιακό για τη Βουλγαρία του Βόλγα, αν και στοιχεία της πρώιμης Αναγέννησης και Οθωμανικής αρχιτεκτονικής θα μπορούσαν να έχουν χρησιμοποιηθεί. Το 1552, κατά την άλωση της πόλης, το τζαμί καταστράφηκε από τον Ιβάν τον Τρομερό.

Τάταροι μελετητές έχουν εικασίες ως προς το κατά πόσον ορισμένα στοιχεία του τζαμιού υπάρχουν στο Καθεδρικό Ναό Αγίου Βασιλείου στη Μόσχα (το οποίο έχει 8 μιναρέδες, κεντρικό τρούλο, το οποίο δεν είναι τυπικό για τη ρωσική αρχιτεκτονική). Από το 1996, το τζαμί έχει ανακατασκευαστεί στο Κρεμλίνο του Καζάν, αν και εμφανισιακά είναι αποφασιστικά μοντέρνο. Τα εγκαίνιά του στις 24 Ιουλίου, 2005, σηματοδότησαν την έναρξη των εορταστικών εκδηλώσεων αφιερωμένες στη Χιλιετία του Καζάν. Μπορεί να φιλοξενήσει έως 6.000 πιστούς. 

Πολλές χώρες συνέβαλαν στο ταμείο που δημιουργήθηκε για την επαναδημιουργία του τζαμιού, όπως η Σαουδική Αραβία και τα Ηνωμένα Αραβικά Εμιράτα.

Σήμερα το τζαμί λειτουργεί κυρίως ως μουσείο του Ισλάμ. Την ίδια στιγμή, κατά τη διάρκεια των μεγάλων Μουσουλμανικών γιορτών, χιλιάδες άνθρωποι συγκεντρώνονται για να προσευχηθούν.

Το συγκρότημα του Κολσαρίφ είχε προβλεφθεί να είναι ένας σημαντικός ακρογωνιαίος λίθος του αρχιτεκτονικού τοπίου του Καζάν. Εκτός από το κύριο τζαμί, το κτίριο περιλαμβάνει μια βιβλιοθήκη, εκδοτικό οίκο και το γραφείο του Ιμάμη.