上海音专繁忙的教务工作并没有影响到黄自的教学态度。相反，黄自先生一丝不苟的教学态度很让人钦佩！他的妻子汪颐年曾回忆说，黄自对教学工作是非常认真严肃的。当时他要讲好几门课，这些课尽管对他来说是非常熟悉的，但他还是把绝大部分的时间用来备课，甚至有时要工作到深夜。对此，汪女士有些不理解，有一次问他：“这些课你不是早就熟悉了，为什么还要花这么多时间来准备呢？”黄自摇了摇头很严肃地说：“不对，你自己懂了还没有用，只有充分准备后，到上课时才能吸引同学的注意，让他们真正吸收进去！”一次，他病了，得了痢疾，每天早晨腹痛，而且还总是在要到学校去时才痛得特别厉害，妻子汪女士曾多次劝他请几天假，找医生治疗一下，但他始终不肯，只是在腹痛时躺着用热水袋焐一下，就又赶去上课。每次上音乐欣赏课以前，他总是把要讲的唱片反复地听好几遍。他常对学生说：“你们努力，我比你们更努力。”
黄自性格温和、平易近人，对学生的课业却要求极其严格。他的学生回忆说，我们都很怕黄自先生，每次他给我批改和声习题的时候，如果我做得好，他就一面在钢琴上弹，一面微笑着点头。如果我做得不好，他仍是微笑着，但不是点头，而是慢慢地摇着头。这种教学方法着实比严厉的批评更有效。
是严师，也是慈父，一个对学生既能严格要求又关怀备至的老师自然是深受学生喜爱的。黄自的子女曾写道：“父亲喜欢学生，学生们也喜欢他！”解放后最早研究黄自的钱仁康教授还说：“他对学生关怀备至，并乐于在各方面给予帮助。”1931年，学生马国霖经济出现困难，交不出学费，当他为将要辍学而苦恼时，忽然接到黄自先生的一封信，还有交学费的收据和入学证。1934年，他的四大弟子之一刘雪庵的兄长去世，家境窘迫，黄自“慷慨解囊，从生活上帮助了我，并将我的作品推荐到社会上去，以解燃眉之急”。学生们都很爱戴黄自。刘雪庵曾写道：“虽然他平时是一个寡言少语的人，但在辅导学生及培育中国音乐教育这棵新生的嫩苗时，谦虚和蔼、平易近人、循循善诱，使见者都有亲热感。他虽是教授，但从不‘好为人师’，也从不对人感到厌烦，而是侃侃而谈、启发提问、因势利导，令人广开思路；既是谈笑风生，又是诲人不倦。先生的声音笑貌，至今仍浮现在我的脑海中；先生诲人不倦的精神，使我终生难忘；先生渊博的学识，像甘露一样滋润着我的心田。”难怪著名音乐家钱仁康先生也称赞“黄自先生的学识非常渊博，但他总是虚怀若谷，从不骄逸自满，非常尊重同辈和先辈人物，从无倨傲和忌妒之心”！黄自先生以身作则，以自己的人格魅力感染和熏陶着学生，他的学生马国霖曾感慨道：“做黄自先生的学生太幸福了！”
辛勤的劳动结出了丰硕的果实，黄自培养出了许多专业理论和作曲人才，如著名的有“黄氏四大弟子”之称的贺绿汀、江定仙、陈田鹤、刘雪庵，有谭小麟、林声翁、钱仁康等近代音乐家等，至于师从过他的如丁善德、张定和等，就更是不胜枚举。正因为如此，黄自对学院的影响在某些方面远远超过了校长萧友梅。甚至于直到“文革”时期，他的影响仍然让张春桥之流心有余悸！贺绿汀先生曾讲过这样一个故事：“文革”初期，有一次，张春桥问当时担任上海音乐学院党委书记的钟望阳：“你们那个学校是谁在领导呀？”钟望阳回答说：“是党在领导嘛！”张春桥听了，不以为然地摇了摇头，说：“不是的，是黄自在领导！”而那时黄自先生已经逝世将近30年了。今天，上海音乐学院在国内外能享有盛誉，与黄自当年的辛劳是分不开的。黄自不愧为我国音乐事业的拓荒者！
