在法兰克福住了大约1年半后，王光祈来到柏林，在确立要用音乐唤起民族自觉的决心后，他先在一所专科学校补习钢琴、小提琴与音乐理论，1927年转入柏林大学音乐系，长达7个学期。1932年11月被波恩大学东方学院聘为讲师，并于两年后以《中国古代歌剧研究》一文获得博士学位，他是我国第一位在西方获得荣誉的音乐学家。他将目光汇聚在音乐史，开始思考音乐与国家、民族的关系，并一度热情澎湃。
王光祈留德共16年，改习音乐13载，勤奋著述，卓有成就，陆续写成音乐专著17本、论文40余篇。如《欧洲音乐进化论》《东西乐制之研究》（属我国最早的，具有开创意义的比较音乐学著作）《德国国民学校与唱歌》《各国国歌评述》《东方民族之音乐》《中国诗词曲之轻重律》《音学》《翻译琴谱之研究》（向西人介绍中国古琴音乐的著作）《中国音乐史》《西洋名曲解说》《西洋音乐史纲要》等等。其中不少书著具有首创性和独特的眼光，表现了王光祈独到的音乐思想。他主张发挥音乐的社会功能，藉以振奋人心，以此发扬爱国主义精神。同时他还提出了发展民族音乐的具体办法，洋溢着强烈的民族自豪感。他一生致力于改良中国社会，从改良国民的精神世界立场出发，从事音乐理论研究，试图以研习音乐来达到他救国的目的，“欲借此以唤醒‘中华民族本性’，为抵抗外国文化侵略之工具”。在这个四处充满音乐的国度，他感受到了音乐动人的力量，且深受德国人“非有音乐不能生活的境地”的熏染，认为改造中国，应先改造人心，而改造人心，则必须从恢复“礼乐”开始。这与中国儒家的“礼乐观”相契合。“礼乐”与中华民族精神有着密切的关系，“礼乐不兴，则中国必亡”。他敬慕孔子礼乐教化的思想，认为振兴礼乐，可以改善社会人心，振奋国民精神，改造整个国家。他认识到音乐足以唤醒民族精神，使其日夜梦想的“少年中国”理想落到实处。王光祈认为，音乐是“最足引起‘民族自觉’之心”，具有“陶铸‘民族独立思想’之功”的艺术，因而特别强调“音乐化人”、“寓教于乐”。王光祈是思想家，他坚持认为世界应该建设出音乐人生观，应该以音乐去培植人类的良知，以弥补法制社会的冷酷无情和种种弊端，王光祈是中国儒文化对外的主要传播实践者。四川音乐学院建有王光祈先生塑像和纪念碑亭，纪念这位在中国音乐史上占有重要地位的先人。
在德国短短的10多年中，即使生活十分艰苦，他在音乐研究方面依然涉猎广泛，学过小提琴、钢琴、音响学、和声、乐律学、对位等音乐理论。此外，他还跟世界乐器学权威、德国著名音乐学家萨克斯学乐器学。
