בשנת 1590 קנה הבנקאי והפרימוס של הקהילה היהודית מרדכי מייזל קרקע בדרום הרובע היהודי של פראג כדי לבנות שם בית כנסת פרטי משלו. בשנת 1591 הוענקה לו הזכות המיוחדת הדרושה להקמה על ידי הקיסר רודולף השני. בית הכנסת נחנך בשנת 1592. באותה תקופה היה בית הכנסת מייזל בית הכנסת הגדול ביותר בפראג. הוא נבנה בסגנון הרנסאנס, והיו בו 20 עמודים. מרדכי מייזל צייד אותו בחפצי פולחן רבים. במבנה הוצב גם עוגב, שניגן במהלך התפילות.[1]

הבניין המקורי והמפואר נשרף בשנת 1689 בשריפה שהרסה חלקים נרחבים של הרובע. בית הכנסת נבנה מחדש עד שנת 1691, אם כי הוקטן בשליש ומבנהו שונה. במבנה החדש נוסף קמרון חבית. בבניין החדש נבנו עזרות נשים במעברים הצדדיים.

משנת 1862 עד 1864 עבר בית הכנסת שיפוץ כולל על פי תוכניותיו של האדריכל י. מ. ורטמילר (J. M. Wertmüller). משנת 1895 עד 1905 נערך שיפוץ שהעניק למבנה את המראה הנאו-גותי שיש לו מאז, על פי תוכניותיו של אלפרד גרוטה (Alfred Grotte). בגלל השינויים במפת הרחובות שנבעו משיקומה של השכונה היהודית המוזנחת, הועברה הכניסה לבית הכנסת מהצד המזרחי לצד המערבי.

במהלך מלחמת העולם השנייה אוחסן בבית הכנסת מייזל רכוש יהודי שעבר אריזציה.

בית הכנסת נמצא תחת הנהלת המוזיאון היהודי מאז שנת 1955. תחילה היה מחסן של המוזיאון, ולאחר מכן שופץ בשנים 1963–1964. בשנים 1965–1988 הייתה במבנה תערוכה קבועה על חפצי פולחן יהודיים מבוהמיה וממורביה. לאחר שנסגר ושופץ מחדש בשנים 1994–1995, מוצגת בו מאז 1996 תערוכה על ההיסטוריה היהודית של בוהמיה. בשנים 2014–2015 שופץ הבניין והצבע ההיסטורי של החזית שוחזר.