夏时设六国，战国属楚。秦时设六县，属九江郡。西汉置六安国，东汉置六安县，以古六国为名。隋置寿州。宋政和八年(1118)置六安军，元为六安州，属庐州路。明属庐州府，清为直隶州。
1949年设六安专区，属皖北行署区，专署驻六安县，辖六安、舒城、霍山、金寨(原立煌县改称)、霍丘、寿县等6县。1952年六安专区属安徽省领导，原巢湖专区所属肥西县划入六安专区。1954年金寨县驻地迁至梅山水库坝址附近。1958年，将肥西县划归合肥市领导，原属芜湖专区的庐江县划入六安专区。1961年肥西县划入六安专区。1965年将庐江县划归巢湖专区。
1970年，六安专区改称六安地区，地区驻六安县，辖六安、霍丘、寿县、肥西(驻上派河镇)、舒城、霍山、金寨(驻梅山镇)等7县。1978年由六安县城关镇析置六安市，属六安地区领导，地区驻六安市。1992年六安县、六安市合并为六安市。1996年，六安地区面积17976平方千米，人口约640万人，行署驻六安市，辖六安市和寿县、霍邱、舒城、霍山、金寨5县。
1999年9月2日，国务院(国函[1999]109号)批复同意:(1)撤销六安地区和县级六安市，设立地级六安市。市人民政府驻新设立的金安区人民路。(2)六安市设立金安区、裕安区。金安区辖原县级六安市的东市、中市、三里桥3个街道办事处和九里沟、望城岗、翁墩、淠东、城北、先生店、中店、横塘岗8个乡及马头、东桥、木厂、双河、孙岗、椿树、三十铺、张店、毛坦厂、东河口、施桥11个镇。区人民政府驻人民路。裕安区辖原县级六安市的鼓楼、西市、北市、南市4个街道办事处和平桥、罗集、狮子岗、单王、青山、西河口、石板冲7个乡及新安、顺河、丁集、固镇、徐集、江家店、独山、苏埠、城南、分路口、石婆店、韩摆渡12个镇。区人民政府驻云露街。(3)六安市辖原六安地区的舒城县、霍山县、金寨县、霍邱县、寿县和新设立的金安区、裕安区。
2000年第五次人口普查，六安市常住总人口5954653人，其中，金安区745254人，裕安区813783人，寿县1112569人，霍邱县1461066人，舒城县906984人，金寨县582067人，霍山县332930人。
2004年末，六安市辖2个市辖区、5个县，共有10个街道、105个镇、61个乡。
2010年第六次人口普查，六安市常住总人口5611701人，其中，金安区789699人，裕安区854645人，寿县1008116人，霍邱县1380368人，舒城县749273人，金寨县514456人，霍山县315144人。
2014年末，六安市辖2个市辖区、5个县，共有8个街道、109个镇、47个乡。
2015年10月13日，国务院(国函[2015]181号)批复同意设立六安市叶集区，将霍邱县的叶集镇、三元镇、孙岗乡划归叶集区管辖，以叶集镇、三元镇、孙岗乡的行政区域为叶集区的行政区域，叶集区人民政府驻叶集镇花园路88号。12月3日，国务院(国函[2015]206号)批复同意将六安市寿县划归淮南市管辖。