Les grutes de Longmen es van començar el 493, quan l'emperador Xiaowen de la dinastia Wei del Nord va traslladar la capital a Luoyang.[1] Durant els següents quatre segles, aquesta construcció, de manera continuada, es pot dividir en quatre fases diferents:

El període entre 493 i 534 va ser la primera fase del tall intensiu de les grutes. La primera cova tallada fou Guyangdong; els registres mostren que més de dues-centes persones van participar en aquesta construcció. Durant aquest període es van cavar un gran nombre de coves de totes les mides al turó de l'oest, que representen al voltant del 30% del total.[2] Aquesta fase d'intensa activitat va ser seguida per un període d'entre 524 i 626 en el qual es van cavar molt poques coves,[3] i les poques que es van fer eren bastant petites. Això es deu principalment a la guerra civil entre les diferents regions de la Xina que va persistir durant la dinastia Sui (581-618) i la primera part de la dinastia Tang (618-907).[4] No va ser fins a 626 que es va iniciar la tercera fase, durant l'apogeu de la dinastia Tang, quan el budisme xinès havia començat a florir de nou. Va ser una vegada més un període de tall intensiu de grutes; va ser el moment artístic culminant de Longmen, especialment durant el regnat de l'emperador Gaozong i l'emperadriu Wu Zetian, que vivia permanentment a Luoyang.[5] El grup d'estàtues gegantines a la cova de Fengxiansi són la part més representativa d'aquesta etapa de l'art xinès a Longmen, i són reconegudes com a importants obres d'art a escala mundial.

Moltes altres grutes de totes les mides es van cavar en aquest període tant al turó occidental com al turó de l'Est. Aquestes conformen aproximadament el 60% de les grutes de Longmen. A més, durant la dinastia Tang en aquest magnífic paisatge natural es van construir un bon nombre de temples budistes. La majoria d'aquests només existeixen en l'actualitat en forma de ruïnes, però segueixen sent un component important del conjunt cultural del complex de Longmen.

La fase final, des 755-1127, que va de la dinastia Tang fins a la Song del Nord, l'excavació de grutes de Longmen va experimentar un descens progressiu.[6] Això va començar amb la captura de Luoyang en la meitat del segle VIII en una revolta, un esdeveniment arran del qual la zona ja mai es va recuperar. L'esclat de la guerra durant les dinasties Jin i Yuan va acabar del tot amb les construccions.

Durant les dinasties Ming (1368-1644) i Qing (1644-1912), el gran èxit artístic i cultural representat a les grutes de Longmen va anar rebent gradualment el reconeixement nacional i internacional, i van acabar sent objecte d'estudi acadèmic. Durant la dècada de 1940 algunes de les escultures de pedra van ser robades i venudes a l'estranger, però des de l'establiment de la República Popular de la Xina el 1949 han estat protegides i conservades.