הנוהג של קיסרי סין, שכינויים "בני השמיים", לסגוד לשמיים ולארץ, הוא מסורת עתיקה בסין. המקורות הכתובים מתעדים פולחן קורבנות שהוא שילוב בין אמונה אנימיסטית ופילוסופית שלטון כבר בתקופת שושלת שיה (2200 עד 1760 לפנה"ס). מרכזים פולחניים שבהם נהגו שליטי סין לערוך טקסי סגידה לשמיים ולארץ היו בדרך כלל המבנים הבולטים ביותר בערי הבירה, ושיקפו את שיא האדריכלות והאמנות של התקופה.

בתקופה הקלאסית של סין נקבע הר טאי (泰山, בפין-יין Tài Shān)[1] כאתר היחיד בו יכלו קיסרי סין לקיים את פולחן הסגידה לשמיים ולארץ, ואפילו עליהם הוטלו מגבלות. על מנת שיותר לקיסר לערוך את הטקס הקדוש, נדרש תחילה אישור מהשמיים בדמות אירועים מבשרי טובות. גם אצילים הורשו לערוך את הטקס, אולם רק על הר בתחום הפייף שלהם. הטקס עצמו היה יקר במשאבים, ולכן היו קיסרים שהחליטו לוותר עליו לחלוטין. הבולט שבהם היה הקיסר טָאידְזונְג משושלת טאנג (שלט 649-626), שנחשב לאחד מגדולי הקיסרים בתולדות סין. הוא האמין כי חובתו החשובה ביותר של מנהיג היא להביא שגשוג לעמו, ופולחנים דתיים הם נושא בלתי רלוונטי. האחרון שקיים טקס יקר זה באופן קבוע היה הקיסר גֶ'נְדְזונְג משושלת סונג (שלט 1022-997) ואחריו נערך הפולחן לעיתים רחוקות.

ב-1403 החליט יונג לה, הקיסר השלישי של שושלת מינג (שלט 1403–1424), להעביר את בירת הקיסרות מנאנג'ינג לבייג'ינג. הוא החל בשורת מפעלי בנייה בעיר ששיאם היה העיר האסורה. בין השאר הוחלט על הקמת אתר פולחן לשמיים ולארץ שיחליף את הר טאי. המקום שנבחר שכן כ-3.5 קילומטרים דרומית-מזרחית לשער גֶ'נְגְיָאנְג (前門, בפין-יין Zhèngyángmén), השער הראשי בחומת בייג'ינג. הבנייה במקום החלה ב-1406 והסתיימה ב-1420, השנה ה-18 לכהונתו של יונג לה. האתר נקרא "מקדש השמיים והארץ" (ליתר דיוק מזבח השמיים והארץ), והמבנה המרכזי בו היה בניין ריבועי הקרוי "ההיכל הגדול של הקורבן" אשר נועד ל"העלאת מנחה לשמיים ולארץ". דרומית-מערבית להיכל הגדול של הקורבן נבנה ארמון הפרישות. בשטח המקדש נשתלו עצי אורן, שנועדו להדגיש את הקשר בין האדם לטבע, והמתחם הוקף בחומה. הקשר לאתר הפולחן בהר טאי מוזכר במקום בדמות "קבוצת האבנים שבעה כוכבים", כיום מזרחית למיקומו של "היכל התפילות ליבולי שפע", המייצגים את שבע הפסגות של הר טאי.

ב-1530, השנה התשיעית לכהונתו של גְ'יָאגִ'ינְג, הקיסר האחד-עשר של שושלת מינג (שלט 1567-1522), החליט הקיסר על הפרדה בין טקסי הקורבן לשמיים ולארץ.[2] גְ'יָאגִ'ינְג, שהיה חסיד אדוק של טאואיזם ורדף את הבודהיזם, הורה על הקמת "מזבח התל העגול" דרומית להיכל הקורבן הגדול על מנת שישמש כמקום הסגידה לשמיים, ושם האתר שונה מ"מקדש השמיים והארץ" ל"מקדש השמיים". במקביל נבנו בהוצאה כספית גדולה מקדש האדמה (地壇 בפין-יין Dìtán) בצפון העיר, מקדש השמש (日壇 בפין-יין Rìtán) במזרחה, ומקדש הירח (月壇 בפין-יין Yuètán) במערבה. חמש-עשרה שנים לאחר מכן, בשנת כהונתו ה-24 של הקיסר גְ'יָאגִ'ינְג (1545), פורק "ההיכל הגדול של הקורבן", המבנה המקורי הריבועי, ובמקומו הוקם מבנה עגול הקרוי היכל דָאשְׂיָאנְג שנועד לתפילה לשם קבלת יבולים עשירים. למבנה זה היו שלושה גגות המחופים כל אחד ברעפים בצבע אחר. הגג העליון ברעפים כחולים המסמלים את השמיים, הגגון האמצעי ברעפים צהובים המסמלים את הקיסר, והגגון התחתון ברעפים ירוקים המסמלים את העמים ואת הארצות בשלטון הקיסר. שמונה שנים אחר כך, ב-1553, נכלל מקדש השמיים בעיר החיצונית של בייג'ינג שנבנתה דרומית לעיר הפנימית, והיה מוגן מעתה על ידי שני קווי חומות.

ב-1749, השנה הארבע-עשרה לכהונתו של צ'יינלונג, הקיסר החמישי של שושלת צ'ינג (שלט 1795-1736) הורחב התל העגול, ונעשה שימוש בשיש לבן במקום זיגוג כחול. שנתיים אחר כך, ב-1751, שופץ היכל דָאשְׂיָאנְג, והרעפים, שהיו בגוון שונה לכל גגון (כחול, צהוב וירוק), הוחלפו על ידי רעפים מזוגגים בצבע כחול. שם ההיכל שונה ל"היכל התפילות ליבולי שפע".

ב-1889 נשרף היכל התפילות ליבולי שפע, שהיה עשוי, כמו שאר המבנים המקורים, מעץ. המבנה נבנה מחדש תוך שמירה דקדקנית על הסגנון והחומרים המקוריים.[3] מאז ועד 1911, עת נפלה ממשלת צ'ינג, וממשלת הרפובליקה של סין שבאה במקומה אסרה על קיום הפולחן במקום, התקיים טקס פעמיים בשנה. ב-490 השנים שחלפו מאז הוקם האתר, ערכו בו 22 קיסרי סין משושלות מינג וצ'ינג 654 פעמים טקס סגידה לשמיים.

ב-23 בדצמבר 1914 ביצע יְוֵּאן שְׁה-קָאי, נשיא הרפובליקה הסינית, טקס תפילה בנוסח שושלת מינג במקדש, כחלק מניסיונו הכושל להכריז על עצמו כקיסר סין.

ב-1913 נפתח המקום כפארק ציבורי, ומאז הוא תוחזק כיאות, להוציא שתי תקופות: בזמן הכיבוש היפני של העיר מ-1937 ועד 1945, כאשר המקום הוזנח, ובתקופת מהפכת התרבות (1976-1966) שעה שהמקום הפך בכוונה תחילה למזבלה. ב-1990 פונו כ-800,000 ממ"ק של אשפה מהאתר.

ב-1998 הוכרז מקדש השמיים על ידי אונסק"ו כאתר מורשת עולמית. בנימוקי ההחלטה האתר מתואר כך:

וגם משום ש:

בתחילת שנת 2005 נסגר המקום לרגל שיפוצים בעלות של 47 מיליון יואן (כ-6 מיליון דולר) כהכנה לאולימפיאדת בייג'ינג. האתר נפתח מחדש לקהל ב-1 במאי 2006.

הפארק סביב החלק המרכזי של המקדש משמש כיום מרכז לפעילות פנאי. בבקרים נוהגים רבים לבצע במקום תרגילי טאי צ'י, ובמהלך היום והערב מתנהלים במקום משחקים (מבדמינטון ועד שחמט) וכן מתבצעים בו הופעות של מוזיקאים, זמרים ורקדנים.