新中国成立之初，贺绿汀奉命从华北解放区风尘仆仆地赶到阔别多年的故地上海，接管曾经的母校：上海国立音专，担任上海音乐学院的院长。

　　这时的音专，已是一派萧瑟。教师队伍良莠不齐，总共不足20位。在校学生已几乎跑光。连教学必用的钢琴也仅存22架，而且其中有些还不能弹奏。

　　为了尽快收拾这副烂摊子，早日把这座百废待兴的昔日名校，打造成世界一流的现代化音乐学府。贺老是身先士卒、呕心沥血。他一上任，旋即就在海内外不拘一格地广泛招贤纳士，还不断地在上海本地的报刊上，求购旧钢琴及各类学校教学必需的器材。

　　在贺老的不懈努力和带领下，新上音的教学已循序渐进。各种教学器材基本完备，钢琴数也猛增到150架。贺老还亲自挂帅、组织编写了一批新教材……

　　但为了上音更好的明天，在贺老不遗余力的呼吁和奔波下，学校二次搬迁。起初，由狭小简陋的江湾旧址，搬入新建造的漕河泾校区（今上师大东部校区）。虽然，新校舍的硬件和师生的工作、学习及生活条件都得到了很大的改观，但新校地处近郊，那时的交通和通讯还很不发达，晚上没有公交车往返学校。而上音作为艺术院校，师生经常要去市中心的剧场举办或聆听各类音乐会和许多学术交流活动。因此，这就成了新的问题和矛盾。

　　为此，贺老多次向陈毅市长面陈上音发展的新瓶颈。一向重视教育和文艺的陈毅市长，在亲自调研后决定，在他任期内一定把上音置换到市中心。1957年深秋的一个下午，即将离任赴京任职的陈毅市长，亲自陪同贺老，驱车去寻觅上音合适的新址。在几经勘察、对比和平衡后，贺老最终选定了汾阳路上原一家外国人的俱乐部，这也是今天上音大院的所在地。

　　贺老在执掌上音期间，从不搞宗派，也没亲疏之分，任人唯贤，人尽其才，唯才是举，学校呈现一派和谐、蓬勃向上的景象。

　　上世纪五十年代初，有位上海盲人青年王叔培，报考上音钢琴系。这在常人看来，无疑是“天方夜谭”式的荒唐和不可思议。但贺老得知这一情况后，竟破例亲自主考。经过一系列严格的考试后，由贺老拍板，王叔培竟奇迹般地被录取。在其五年的寒窗生涯中，贺老是无微不至的关怀。不仅请专人为王叔培编写钢琴盲谱，另派钢琴专家为他开小灶，还托人照顾他的生活，并经常给他精神上的鼓励。面对贺老如此的厚爱，王叔培加倍地刻苦用功，以优于常人的成绩毕业。最终贺老点将，又将其留校任教。由此可见，贺老对人材的渴望。像王叔培这样的事例，在国内外都绝无仅有。上影厂曾以王叔培为故事原型，拍摄了一部影片《石榴花》，影响甚广。

　　“洋为中用”，是贺老一生音乐创作和办校的理念。他一贯重视中国民族音乐的挖掘、传承和发展，并一直告诫上音师生：民族民间音乐，是我们音乐创作“取之不尽、用之不竭”的唯一源泉。他亲自上讲台，教学生唱民歌，并明确规定：所有上音学生必修民族民间音乐课。当年，在贺老的举荐和盛邀下，许多来自民间的戏曲、曲艺大家，竟破天荒地登堂入室，来上音授课。此举也弥补了许多学生艺术、知识的盲点，更拓宽了他们创作的视野。