上海中山医院创始于1936年，医院开业于1937年。

1939年7月中山医院部分医护人员随同上海医学院迁至昆明。

1942年2月接办重庆歌乐山的中央医院，改称国立上海医学院附属医院。

1946年5月在重庆的中山医院人员分批回沪，筹备恢复上海中山医院。

1946年11月正式恢复上海中山医院。

1955年8月，中山医院改为上海第一医学院附属第二医院。恢复综合性医院建制。

1956年8月，恢复原名中山医院。