Początki Collegium Maius wiążą się z rokiem 1400, kiedy nastąpiła odnowa Akademii Krakowskiej. Wtedy od rodziny Pęcherzów z Rzeszotar król polski Władysław Jagiełło wykupił za 600 grzywien[1], pochodzących z zapisu królowej Jadwigi, narożną jednopiętrową kamienicę[2] .

Budowla była powiększana w ciągu XV wieku poprzez wykup sąsiednich budynków. Ostatecznie budynki połączono po pożarze w 1492 roku oraz dobudowano do nich nowe piętra. Wewnętrzny dziedziniec otoczono wówczas arkadowymi krużgankami o późnogotyckich, kryształowych sklepieniach. W 1507 budowę dachów nadzorował z ramienia uniwersytetu Mikołaj z Koprzywnicy. Budowniczy Marek zbudował wówczas szczyt nad aulą oraz położył dachówkę na poszyciu dachu. Nazwy Collegium Maius używano od połowy XV w[3].

W Collegium Maius na parterze mieściły się lektoria (sale wykładowe), a na piętrze Stuba Communis (izba wspólna), biblioteki i mieszkania profesorskie.

W niezmienionym stanie budowla przetrwała aż do przebudowy w stylu neogotyckim, mającej przystosować ją na potrzeby Biblioteki Jagiellońskiej. Prace w latach 1839–1858 prowadził Karol Kremer, a w latach 1864–1870 Herman Bergmann. Collegium Maius było siedzibą Biblioteki do roku 1940. Wkrótce potem rozpoczęto prace kierowane przez prof. Karola Estreichera, mające budynkowi przywrócić stan sprzed 1840. Collegium Maius zostało wówczas przeznaczone na siedzibę Muzeum Uniwersytetu Jagiellońskiego.