蘇舜欽在蘇州過了約三年的退隱生活,寫了不少有關滄浪亭和蘇州的詩作。慶曆八年(1048),蘇舜欽復官,授湖州長史,同年十二月病卒,此時才四十一歲。歐陽修為他寫了墓志銘。
蘇舜欽去世後,滄浪亭曾屢易其主,後為章申公家所有。章將花園擴大,建築大閣,又在山上起堂,他還在滄浪亭北面購得一座洞山,動工時發現地下都是一些嵌空的大石,傳為五代廣陵王所藏,於是加以擴展,兩山相對,遂成一大園。南宋時曾為抗金名將韓世忠的府第,他於二山之間築橋,稱為「飛虹」。明代改為大雲庵,有僧人主持。清康熙初,巡撫王新於此建蘇公祠。宋犖作巡撫時也曾親訪遺蹟,於康熙三十五年重修,把臨水的亭子移建於山阜之上,有文徵明隸書「滄浪亭」作匾額。清代又改為五百名賢祠,祠壁刻有五百名賢像,大多是蘇州人,其中有吳季扎、王士楨等。太平天國時期蘇州頻經戰爭,滄浪亭亦遭毀壞,清同治十二年(1873)又重建。此後又經過多次修葺,但其基本格局仍與當時相去不遠。
滄浪亭建築頗具匠心,它以古樸清幽為其風格,以山林野趣在蘇州諸園中獨樹一幟。園以人傳,滄浪亭因蘇舜欽而聲名大著,歷代文人墨客競相吟詠,名士方家紛至踏來。明代文徵明作《滄浪池上》云:「楊柳陰陰十畝塘,昔人從此詠滄浪。春風依舊吹芳杜,陳跡無多半夕陽。積雨經時荒渚斷,跳魚一聚晚波涼。渺然詩思江湖近,便欲相攜上野航。」清乾隆年間,《浮生六記》的作者沈復曾居於蘇州滄浪亭畔,在《浮生六記》裡有一段描寫他於中秋攜妻挈妹去滄浪亭賞月的情景:「中秋日,餘病初愈,以芸(沈妻)半年新婦,未嘗一至間壁之滄浪亭,先令老僕約守者勿放閒人。於將晚時,偕芸及餘幼妹,一嫗一婢扶焉。老僕前導,過石橋,進門,折東曲徑而入,疊石成山,林木蔥翠。亭在土山之巔,循級至亭心,周望極目可數裡,炊煙四起,晚霞爛然。隔岸名『近山林』,為大憲行臺宴集之地,時正誼書院未起也。攜一毯設亭中,席地環坐,守者烹茶而進。少焉,一輪明月已上林梢,漸覺風生袖底,月到波心,俗慮塵懷,爽然頓釋。芸曰:『今日之遊樂矣!若駕一葉扁舟,往來亭下,不更快哉?』」這些名人的吟詠和軼事,更使滄浪亭增添了熠熠光彩。