这一时期，胡乔木在繁忙的工作之余，还在延安创作了《青春曲》，歌唱“可爱的青春发着亮光，我们的生命像大船在海上前航。英明的舵师给我们掌舵，指挥着我们去冲破险恶的风波”。这首歌再次请李焕之谱曲，在青年中广泛传唱。
年轻的胡乔木精力充沛，充满激情。在繁忙的工作之余，他还把热情倾注到当时延安开展的读书活动上。活动的主要载体是延安中山图书馆。
延安中山图书馆始建于1937年5月，毛泽东题写了馆名。1938年图书馆曾遭日本飞机轰炸，一度停止开放。1939年秋，中共中央决定将其恢复扩建为公共图书馆，由中央青委领导，并由陕甘宁边区政府主席林伯渠兼任馆长。1940年2月14日，林伯渠召集第二次理事会，推举胡乔木和周扬、艾思奇、王林等人为常务理事。此后，胡乔木和李昌、于光远、武衡等先后担任过图书馆主任。
图书馆馆址在中央青委所在地大砭沟的沟里一公里多的阳坡上。大砭沟有中央青委机关、文化俱乐部、青年俱乐部等，经常是歌声嘹亮，文化活动频繁，诗人学者来来往往，人们称其为文化沟。1940年至1941年，延安开展读书活动，中山图书馆是读书活动最便利的场所。当时许多中央领导同志都参加了读书活动。张闻天领导了《辩证唯物主义和历史唯物主义》学习小组，陈云领导了《政治经济学》学习小组，于光远领导了《自然辩证法》学习小
组，胡乔木则领导了《资本论》学习小组。
胡乔木也很关注《轻骑队》。《轻骑队》是1941年4月中央青委的一些同志在大砭沟创办的一个大墙报，在延安轰动一时。大砭沟是延安的闹市区之一，青委机关就在沟里。《轻骑队》的编辑在沟口广场上用木棍搭了个架子，用旧报纸糊成一堵墙，把用毛笔写的大字报贴在上面。文章短小精悍，形式多样，生动活泼，对延安生活有所针砭。这《轻骑队》的名字来自土地革命战争时期出版的刊物《列宁青年》，那个刊物上有一个专栏，专门揭露缺点，开展批评，名为“轻骑队”。墙报每两周一期，每期七八篇稿子。第一任主编是萧平。胡乔木在《轻骑队》的第1期上发表过一篇纪念白求恩的文章。后来胡乔木调到毛泽东那里去做秘书了，还是每期《轻骑队》一贴出，必定专程过延河去看。
1942年4月，《轻骑队》创刊一周年。《轻骑队》编委会在《解放日报》上发表了一篇答谢文章。文中将朱总司令的名字和王实味的名字放在一起。其时王实味因在《解放日报?副刊》上发表《野百合花》而被批判。把他的名字同总司令的名字放在一起，被看成是政治错误。于是，胡乔木就责成有关人员写了一个检讨式的声明，表示：《轻骑队》检讨一年来的工作，认为编辑方针有错误，并决定加以改变。后来，《轻骑队》又写一长篇检查，胡乔木将它拿给毛泽东过目。毛泽东亲手为这篇检查加了标题：《我们的自我批评》，发表在《解放日报》4月23日第4版上。《轻骑队》编委会在这篇自我批评中，检讨“编辑方针有错误”，“没有能坚持以照顾全局的与人为善的同志精神来进行批评，因而我们的批评就往往成为片面的，甚至与被批评者完全对立的，因而也就不但不能达到我们积极的巩固的团结的初衷，而且实际上助长了同志间的离心倾向，有时还产生了涣散的恶果。”
