אתר עתיק בשם "אגרה" ביוונית ו"הגרה" (Haegra) בלטינית נזכר מספר פעמים על ידי סטראבון (גאוגרפיקה, 16, 4, 24), פליניוס הזקן (תולדות הטבע, 6, 32) ובמקומות נוספים, אך אין ודאות כי מקורות אלה אכן התייחסו למדאאן סאלח. האתר שכן לאורך הדרך שקישרה בין פטרה לאל מדינה, והחל במאה ה-1 לפנה"ס הקימו בו הנבטים עיר חצובה בסלע, שנבנתה באופן דומה לאופן בו הוקמה פטרה.

העיר, ששכנה במרחק של כ-320 ק"מ דרומית לפטרה, סימנה את גבולה הדרומי של הממלכה הנבטית. בשנת 106, עת נוצרה הפרובינקיה הרומית ערביה, הייתה מדאאן סאלח למעוז בגבולה הדרומי של האימפריה הרומית, ושימשה כמחנה של הלגיון הרומי השלישי. מקור בעל אופי נבטי מאמצע המאה ה-4 מאזכר נסיך מקומי, דבר המעיד על כך שהיישוב עדיין היה נושב בתקופה זו.

מדאאן סאלח נזכרת בקוראן בסורת אל-אעראף 71–73 ובמיוחד בסורת אל-חג'ר (15), פסוקים 80–84, הנקראת על שמה. לפי הקוראן ניסה צאלח (صالح) להמיר את דתם של תושבי העיר התמודים (ثمود) לאסלאם, אך ללא הצלחה, והדבר המיט אסון על העיר:

השם "מדאאן סאלח", היינו "עריו של סאלח", הוענק לאתר על שמו של סאלח, ובעקבות האירועים המתוארים בקוראן. יש הרואים באתר מקום מקולל שעד היום ראוי להתרחק ממנו. לפי אחת המסורות קבור סאלח במסגד הלבן ברמלה.

חוקרים מערביים החלו לחקור את האתר ב-1876, ושוב בעשור הראשון של המאה ה-20. מאז נחקר במספר הזדמנויות, ולאחרונה בין השנים 2001 ו-2002‏[2]. האזור ידע התפתחות מסוימת עם סלילת מסילת הרכבת החיג'אזית. במדאאן סאלח הוקמה תחנת רכבת והאתר שכן בדרכם של עולי הרגל המוסלמים למכה.