五代十国晚期，吴越王钱俶妻弟孙承佑，于宋开宝二年(969年)任中吴军节度使，曾于沧浪亭营建别墅(一说广陵王钱元璙池馆)。明杨循吉《吴邑志》载:此处“既积土为山，因以潴水弥数十亩，旁有小山，高下曲折，与水相萦带，或云池古王璙所凿”。百年后渐废。
北宋庆历四年(1044年)集贤院校理苏舜钦在汴京遭贬谪，翌年流寓吴中，见孙氏弃地约六十寻，三面借水，旁无民居，崇阜茂木，不类城市，遂以四万钱得之。在北碕筑亭，因感渔父“沧浪之水清兮，可以濯我缨。沧浪之水浊兮，可以濯我足”之歌，故命名“沧浪亭”。时园境清旷，前竹后水，水北又修竹，望之无穷。苏常驾舟往游，自云:“家有园林，珍花奇石，曲池高台，鱼鸟流连，不觉日暮。”自号沧浪翁，作《沧浪亭记》。常与欧阳修、梅圣俞等作诗唱酬往还。从此沧浪之名大着，垂名千载，而不与台榭俱毁。
庆历八年(1048年)苏舜钦卒。后园屡易其主，为章惇、龚明之各得其半。宋范成大《吴郡志》载:章惇将花园加以扩大，建筑大阁，又在山上起堂，动工时，发现北面跨水一座洞山地下有嵌空大石，据传是五代广陵王所藏。于是益加扩展，两山相对，遂为一时雄观。“园亭之胜甲于东南”。南宋绍兴初，园为韩蕲王世忠所占，并改名“韩园”。韩氏在两山之间筑一道桥，取名“飞虹”，由张安国书匾。山上有连理木，又有寒光堂、冷风亭、翊运堂、耿元鼎作记。在池上筑濯缨亭，又有梅亭“瑶华境界”、竹亭“翠玲珑”、清香馆“木犀亭”，“其最胜则沧浪亭也”(清卢腾龙《苏州府志》)。园景直到庆元间(1111年-1115年)犹存。依宋《平江图》碑所标此处为“韩园”，园南北端大体与原文庙、府学相平，大门在南。
元朝时，沧浪亭废为僧居。元仁宗延祜年间(1314年-1320年)僧宗敬在沧浪亭遗址上建妙隐庵，庵西侧即南禅寺。惠宗至正间(1341年-1368年)，僧善庆在妙隐庵东侧建大云庵，一名结草庵，为南禅集云寺之别院。明沈周、杨君谦常栖息于此。沈曾以诗记之:“其地浸一水之中，池广十亩，名曰‘放生’，中有两石塔，后亘土冈，延四十丈，古木深竹经类村落间”。又“土冈上古栝乔然十寻，其枝骳骽深翠，数百年物”。
明太祖洪武二十四年(1391年)，诏以宝昙和尚居南禅集云寺时，将妙隐、大云二庵并至南禅集云寺。成化十二年(1476年)十月十三日寺毁于火。主僧德本谋图复兴而力不足，后经苦心筹备十寒暑，始建大雄宝殿。时人称欢德本之劳“其心力疲，其精神不负乎”。嘉靖十三年(1534年)郡守胡缵宗将妙隐庵改筑韩蕲王祠。大云庵自正德以来三十二年间，几经兴废。嘉靖二十五年(1546年)僧人文瑛复建沧浪亭，归有光作记，曰:“自有庵以来二百年，文瑛寻古遗事，复子美之构于荒残灭没之余，此大云庵为沧浪亭也”。
康熙二十三年(1684年)，江宁巡抚王新命在沧浪亭遗址内建苏公祠。三十四年(1695年)宋荦抚吴时，寻访子美沧浪亭遗迹，已是灰飞烟灭。于是即谋规复，并构亭于山之巅，又得文征明隶书“沧浪亭”三字作揭诸楣。名为重修，实同再创。据宋荦《重修沧浪亭记》载:“亭虚敞而临高，旁有老树数株，离立挐攫，似是百年以前物。循北麓稍折而东，构小轩曰自胜，取子美《记》中语也。迤西十余步，得平地，为屋三楹，前亘土冈，后环清溪，颜曰观鱼处，因子美语而名也。……亭之南，石磴陂陀，栏楯曲折，翼以修廊，名曰步碕。从廊门出，有堂翼然，祀子美木主其中，而榜其门曰苏公祠，仍旧屋而新之”。但园规模已逊于宋代，不复有水北及南部旷地。五十八年(1719年)，巡抚吴存礼将康熙御诗一章，饬工庀材建御碑亭于园中，其旁屋宇亦令增修，以助亭之壮丽。
乾隆三十八年(1773年)，按察使胡季堂在沧浪亭西侧(南禅寺遗址一部分)建中州三贤祠。乾隆帝南巡屡驻此园，在园南部曾筑拱门并有御道。
道光七年(1827年)梁章钜又重修亭，集苏舜钦、欧阳修诗句而成的楹联“清风明月本无价，近水远山皆有情”，为后人广为传咏。又作《沧浪亭图咏跋》记述。又将亭左旧有子美祠暨蕲王商丘祠皆于整饰，并于跸路之东，规取隙地为同人觞咏之所。时江苏巡抚陶澍于藏书家顾沅辟疆小筑见所藏吴中名贤画像300余幅，后经地方人士广为搜集，又得200多幅。遂命孔继尧临绘，沈石钰勾摹刻石。在梁章钜重修沧浪亭竣工时，购得亭旁房屋，于次年改建为祠。每岁以时致祭。道光十八年(1838年)巡抚陈之楣改建亭之大云庵，古迹再次一新。
清咸丰庚申年(1860年)，沧浪亭毁于兵火。中州三贤祠亦残毁过半。
同治十一年(1872年)布政使应宝时、巡抚张树声再度重修，复修古亭于原址，并在亭之南最爽处增筑明道堂。堂之后，东菑西爽。折而西，为五百名贤祠，应宝时为祠题名。祠之南为翠玲珑。北为面水轩。临水建筑有静吟、藕花水榭。另有清香馆、闻妙香室、瑶华境界、见心书屋、步碕、印心石屋、看山楼等，诸堂构以廊贯通，轩馆亭榭多为旧名。据张树声《重修沧浪亭记》载:“凡所有事庵僧司，大抵今所建者，唯亭在巅，仍宋中丞之制，余则以意为之，不特非子美旧观矣”。园之格局基本保持至今。其时明道堂对面有戏台(今“瑶华境界”处)，左右有观戏长厢，规制甚壮，惜后毁。戏台后有门通“古大云庵”。园由庵僧照料，仍为官府酬酢之地，有时设坛祈雨。十三年(1874年)巡抚吴元炳复建中州三贤祠。此时，园西邻中州三贤祠，西南为南禅寺，东南至施家桥，东、北均以水为界。
清光绪初，沧浪亭犹有禅者居之。三十四年(1908年)，苏州地图上已无古大云庵，尚存火神庙、放生庵及先农坛。园又被洋务局等局所借用，最多时有七局之盛。后归吴县营设局管理。
民国初，一度借设吴县修志局。两次发起修葺未成，坍塌不堪，蔓草塞途。后又几度驻军，颇有毁损。民国14年苏州美术专门学校租用三贤祠。15年(1926年)戏台已坍毁。同年大旱，当局迎铜观音像供于明道堂，膜拜者纷至，并在园内采竹叶、折竹竿、剥树皮，以为仙物。16年(1927年)5月，颜文梁受公益局之聘，任沧浪亭保管之职，此时沧浪亭已是荒芜塞径，台榭池馆栋折垣圮，文梁倡议捐修，得吴郡著名画家吴子深慷慨出银4000，整修园林，历时年余，昔日面貌得以恢复，颜有记。后设立美术馆，后又改为美术专门学校。此时园南界迄于看山楼。苏州沦陷时，日军司令部曾占用，又被严重毁坏。29年(1940年)春，伪省政府拨充江苏国学社社址，招各地文士来应月课。30年(1941年)，汪伪江苏省政府主席高冠吾募款3.5万元“中储券”，对园林稍加修葺，亦作记。抗日战争胜利后，34年(1945年)，苏州美专复校于此，园荒芜而无力修复。37年(1948年)6月，河南大学迁苏，本部驻怡园，文学院在沧浪亭，次年6月返回开封。
1949年4月苏州解放，苏州市人民政府接管沧浪亭，由市文教局管理。1953年9月交园林修整委员会动工修建，移旧葺新。1954年园林管理处接管。1955年春节正式开放游览，门额易为“沧浪亭”。1963年沧浪亭被列为苏州市文物保护单位。1964年朱德委员长视察苏州时所赠10盆川兰及《兰花谱》置于该园，园内增辟兰圃(原“印心书屋”处)。
“文化大革命”时期(以下简称“文革”)，沧浪亭一度改名“工农兵”公园，文物古迹、家具陈设、匾额楹联、砖雕等均遭破“四旧”的毁坏，道光、同治年间的楹联多佚失。 1967年苏州两派武斗，园曾一度被关闭。
1978年后逐年整修，疏通河道，调整陈设布置，加强花木养护，园林景观大为改观。1985年沧浪亭实施大修，对外开放。此后逐年恢复匾额楹联，1989年复刻归有光《沧浪亭记》。1986年投资十万余元，园门前池塘向西开挖扩大水面，修建石驳岸，将石桥北堍的“沧浪胜迹”石碑坊迁至故址，以复旧观。1989年，苏州市政府加强了对沧浪亭园林周边环境整治，同时净化园外河水。1995年大修明道堂。1998年整修清香馆、闻妙香室，新刻《吴郡名贤补遗》碑石八方。1999年整修五百明贤祠。2001年整修看山楼。2002年整修藕花水榭。 2003年对图碑、书条石共计45块进行全面维护，更换红木框。2004年对所有建筑装折进行揩洗，明道堂屋架翻建、油漆，对五百名贤祠、瑶华境界陈设布置调整。2005年锄月轩翻建油漆，五百名贤祠厅堂油漆。园内古树名木亦得到较好养护，现有百年以上古树11株。特色植物有:名贵兰花70余品种，盆口300余，并陆续举办过8次兰花展;连续十几年引进竹类新品种，至2005年已有竹类58种，上万杆;梅近20株。其它树木60余品种200余棵。
1982年列为江苏省文物保护单位，2000年作为《世界文化遗产苏州古典园林增补项目》被联合国教科文组织列入《世界遗产名录》，2006年被国务院列为第六批国家级重点文物保护单位。
