第二天，罗文坊在台峪用电台迷惑敌人成功了，日军的飞机开始轮番轰炸台峪，各路敌军也以进攻作战队形，分7路向台峪进逼。
聂荣臻在日军距他仅隔一个山头的地方，在夜幕掩护下带领队伍穿插出去，一夜走了40公里路，到达了阜平西北方的丁家庄，在那儿休息吃饭。
在丁家庄，奉命来保卫边区党政军首脑机关转移的一分区一团也赶到了。
侦察员报告，东北面的日军一千多人从涞源、倒马关分两路南下，正向聂荣臻带领的突围队伍扑来。
一团副团长宋玉琳当即命一营跑步堵住北面之敌。
所幸的是一营没有与敌人接触，使大部队的行动得以继续隐蔽行进。
聂荣臻决定，不能再向“游击队之路”方向去了，那样可能会与东北面的敌人遭遇。
于是，9月2日清晨，突围队伍继续折向西北，进入一条狭长隐蔽的山沟，到达一个只有七八十口人、叫常家渠的小山村。
聂荣臻非常劳累，但顾不上休息，马上带人仔细察看这一带的地形。
但见山沟两侧山峰高插入云，山沟极为狭窄。
秋天的山野沟谷里，草深树密，敌人飞机要侦察和轰炸都很困难。
在常家渠的南侧，虽然紧邻着阜平到五台的东西大道，但村子隐蔽在山沟里，四周山山相连，道路不熟的人很难进来。
几位参谋悄悄地爬上山头，发现山下公路上，日军正在频繁地巡逻。
他们向聂荣臻作了报告。
聂荣臻说：“敌人虽然在台峪造成错觉，罗文坊小分队也已经平安地甩掉了敌人，但情况仍然是很严重的。
我们依然没有跳出针对我们的大约有两万敌军的合击包围圈。
外面公路上的敌人离常家渠仅10里路。
再说，这万把人在山沟沟里的吃饭也是个大问题。
我们不能久拖不动，还得想办法突围。
眼下为了不再暴露目标，要命令各单位都注意隐蔽，一律不准烧火做饭，所有的电台继续停止对外联络，每一个人的行动，都要对这近万人负责!”常家渠虽然偏僻，几乎与世隔绝，但是抗日政府的工作做得扎实，在这里打下了很好的群众基础。
群众把凡是能吃的东西都拿了出来，白薯、南瓜、山果、腌菜……可是，近万张嘴，每个人只嚼那么一点点，很快就没了。
于是，乡亲们又把地里正在生长的玉米棒子和树上的生核桃采来，让大家充饥。
因为怕暴露目标，不能生火，所以聂荣臻也跟大家一样，啃生玉米棒子。
大家非常感激常家渠乡亲的无私支援。
聂荣臻交代，各单位都要给乡亲们留下足够的粮票，以便反“扫荡”结束后，由抗日政府归还这些粮食。
就在这条山沟里，聂荣臻于9月4日发布训令：要求军区的所有部队“巩固模范的群众纪律，在任何的困难下，必须保持八路军的光荣传统，才能得到群众配合，粉碎敌人‘扫荡’。”
队伍在山沟里隐蔽了3天，日军仍然毫无察觉。
山下的日军窜来窜去，有时他们派出的小股搜索部队就在山沟外头，离一团前卫营派出的尖兵距离很近，随时都可能发生战斗，那情形是相当惊险的。
突围队伍里很多人又累又饿又病，连聂荣臻身边的作战科八九个人也病得只剩下3个人尚能带病坚持值班。
经过慎重研究，聂荣臻决定：为使今后的行动轻便灵活，跳出包围圈以后，除分局、边区政府与北岳区党委的主要领导人随军区指挥机关一起行动外，其余人员向几个不同的方向分散行动。
军区机关转向四分区西部滹沱河两岸地区机动。
9月5日下午，侦察员报告，沟外大路上的敌人空出了一个口子，黄昏时分，聂荣臻下令突围。
不料，他们只走了五六里路，便发现由阜平来的日军正顺着大道向西开进，为避免与日军遭遇，聂荣臻马上命令部队返回常家渠，继续隐蔽。
