“二连浩特”为蒙古语，称“额仁达布散淖尔”（蒙古语：ᠡᠷᠢᠶᠡᠡ
ᠳᠠᠪᠤᠰᠤᠨ
ᠨᠠᠭᠤᠷ），意为斑斓的盐湖。古名“玉龙”、“伊林”和现名“二连”均为蒙古语“额仁”的讹意转写。 明英宗十四年（1449年）归蒙古左翼三万户，称苏尼特鄂托克。 清嘉庆二十五年（1820年）设置“伊林”驿站。光绪十五年（1899年），清政府架通张家口至库伦（乌兰巴托）的电话线，又设电报局，并将该地标入当时的地图集，名曰“二连”。 1918年，张家口旅蒙商开办“大成张库汽车公司”，开通了张家口至库伦汽车运输线，二连盐池成为这条运输线上的重要站点之一，站名为“滂北”。 1953年，集二铁路动工修建，选线时为避开盐池低洼地形，从传统交通线西移9公里，又在传统边境线南6.463公里处建国境火车站，站名始称“额仁”因发音不便，更作“二连”。 1956年1月，中、朝、越、苏、蒙及东欧等社会主义国家参加的铁路联运（北京经乌兰巴托通往莫斯科）开通，以车站为中心的建筑群便成为二连浩特市的市区雏形。4月3日，锡林郭勒盟行政公署决定成立并设二连镇，隶属苏尼特右旗。1957年7月14日，二连镇升格为旗县级，于“二连”加缀“浩特”（蒙语意为城市），属锡林郭勒盟。 1966年1月设市。1969年11月划归乌兰察布盟管辖，1980年5月重新划回锡林郭勒盟。 1984年9月，时任中共中央总书记胡耀邦视察二连浩特时留下“南有深圳、北有二连”的赞词，自此二连被称为“中国北大门”。1985年1月升格为准地级市，属自治区计划单列市。1985年6月，国务院批准为甲类开放城市。1992年被列为13个沿边开放城市之一。2014年6月9日被国务院批准为“国家重点开发开放试验区”。