Der Yu-Garten wurde 1559 von Pān Yǔnduān (潘允端), einem hohen Beamten der Ming-Dynastie, als Privatgarten für seinen Vater in einem Gelände von zwei Hektar erbaut.

Während des ersten Opiumkrieges, des Taiping-Aufstandes und während des zweiten Japanisch-Chinesischen Krieges wurden die Parkanlagen beschädigt. Ende der 1950er Jahre wurde die Gartenanlage renoviert und der Park 1961 für die Öffentlichkeit zugänglich gemacht. Der Garten steht seit 1982 auf der Liste der Denkmäler der Volksrepublik China in Shanghai.