Храм було започатковано у п'ятому столітті впродовж династії Північна Вей. З 785 по 820 храм перебував у активному процесі будівництва, тоді було збудовано трирівневий 32 м павільйон.[1] 845 року імператор У-цзун заборонив[en] буддизм у Китаї. У рамках переслідування храм Фоґуан було повністю спалено, таким чином з ранньої історії лише пагода Цзуши змогла залишитись.[2] Через дванадцять років по тому, у 857 храм було відбудовано, на місці старого трьохповерхового павільйону було збудовано Великий Східний Зал.

Більшість коштів необхідних на спорудження залу було надано жінкою на ім'я Нін Ґун'юй, а саме спорудження велось монахом на ім'я Юаньчен. У 10 столітті зображення храму Фоґуан було нанесено на стінах 61 печери гротів Моґао. Однак, скоріше за все, художники ніколи не бачили сам храм, оскільки головний зал зображено як двоповерхову білу будівлю з зеленим глазурованим дахом, що дуже відрізняється від вигляду червоно-білого Великого Східного Залу. Це зображення вказує на те, що храм Фоґуан був важливим пунктом паломництва буддистів.[3] 1137 року за династії Дзінь, на північній стороні храму було споруджено зал Манджушрі, а також інший зал присвячений Самантабхадрі Samantabhadra, що було спалено за династії Цін (1644—1912).[4][5]

1930 року Товариство з дослідження китайської архітектури розпочало пошуки старовинних будівель Китаєм. На сьомому році пошуків архітектурна команда очолювана Лянем Сиченем відкрила що храм Фоґуан є реліквією династії Тан.[6] Лян зміг визначити вік будівлі після того, як його дружина знайшла напис на одній з крокв.[7] Точність оцінки віку було підтверджено вивченням будівлі Лянем, що збіглось з відомою інформацією про будівлі періоду Тан.[8]