主编《工农兵小报》
胡乔木在清华园里待不下去了。1931年11月，他被调到北平团市委工作，担任宣传部长。
离开清华以后，胡乔木没有地方住，也没有钱，吃饭都成问题。那时，团市委组织部长于致远住在保定会馆，胡乔木就先在那里落脚，后来得到北京大学的两位党员顾卓新和刘松云（即刘江陵）以及北师大张柏园（亭森）和中国大学一位姓陈的学生（团员）帮助，生活才算安定下来。
胡乔木担任宣传部长以后的一项主要工作，是办一份半公开的铅印小报——《工农兵小报》，一共出了四五期。
过不多久，“九一八”事变发生，共青团在党的领导下，开展抗日救亡运动，宣传活动异常紧张繁忙。胡乔木担任反帝大同盟的青年部部长，同反帝大同盟负责人林枫有过多次来往和工作上的配合。胡乔木领导各团支部上街讲演，还组织青年学生赴南京请愿。“九一八”事变后，在北平学生和工人抗日救亡运动中，胡乔木是积极参与者和领导者之一。
除了北平的抗日救亡运动之外，胡乔木还参与了东北抗日义勇军的组织工作。著名的抗联将领李兆麟就是胡乔木派往东北的。那是1931年12月，当时李兆麟化名李烈生，是北平一所大学的挂名学生。胡乔木派在北平弘达高中读书的共青团员林郁青和刚参加反帝大同盟的李兆麟，同张国威一起，到李兆麟的家乡辽阳，组织领导自发的群众武装抗日。李兆麟等回到辽阳后，即把那里的反日武装山林队和义勇军联合起来，成立了东北抗日义勇军第二十四路军，李兆麟担任了副司令员。
再被列入侦缉黑名单
“九一八”事变后，胡乔木在北平的革命活动又一次引起国民党反动派的注意。在他们眼里，胡乔木是有害“党国”的危险分子。1931年11月，胡乔木再次被北平市公安局以“共党主要分子”列入黑名单，密令侦察缉捕。11月20日，国民党北平市党务整理委员会致函北平市公安局，谓：“清华大学学生李兆瑞、张钦益、陈志安、胡鼎新四人为共党主要分子，今年暑中曾被市公安局密令缉拿，未及罗网。今秋开学以来，常于夜间集会散传单，白天下乡作宣传”，要求市公安局“密派暗探至西郊，侦察缉捕，严厉处置”。过了一个星期，11月27日，北平市公安局即下令逮捕胡乔木等四人。
北平市公安局的密探在西郊当然侦察不到胡乔木的踪影。胡乔木很机警，一直藏匿在北大（沙滩）、北师大（南新华街）、中国大学（二龙路）这些靠近敌人心脏的市中心区域，先后吃住在北京大学经济系学生刘松云、中国大学小陈和在北平教书的盐城人郁士元那里。在离开北平之前，胡乔木又和白坚一起在一位姓朱的团员（安徽人）处住过一阵。白坚是陕西靖边人，1928年由陕西省委派到北方局工作，以辅仁大学学生身份为掩护开展地下活动，机警过人，敌人都怕他，称他为“神特工”。他曾到胡乔木办的平民夜校教过课，并同胡乔木一起在共青团西郊区委工作。
来自“左”倾领导的打击
正当胡乔木遭到敌人搜捕，只能到处躲藏之际，党、团内部在“左”倾错误领导下对胡乔木的打击又接踵而至。
当时，王明的“左”倾教条主义错误在党内居统治地位。中共河北省委已被改组。改组后的河北省委贯彻“左”倾方针，指责中共北平市委右倾。1932年春节期间，团省委书记冯某由天津到北平宣布决定：解散北平团市委，开除团委书记李续刚党籍和团籍，停止胡乔木、于致远一切工作。
从此，胡乔木完全被排除在团市委之外，什么会也不叫参加，什么文件也不让看。但胡乔木并没有消沉，还是在反帝大同盟做工作，积极参加爱国救亡运动。1932年3月18日，他参加了反帝大同盟组织的纪念“三一八”惨案六周年反日大游行，事后，写了一篇通讯，发表在当时一个公开刊物上。他还搜集历来反对托陈取消派和反对立三路线的重要文件、论文，编了一部《马列主义的中国革命观》。
