高唐州很难攻，那么换个地方呢？
僧格林沁将胜保的四面包围改为网开一面——网开一面不是说都不对，关键是看时机。
在主动留出空档的同时，他则像在连镇时一样加紧围城，将能断的粮道全部断掉。胜保在时，太平军有时晚上还能到城外村庄里去征粮；随着僧格林沁越围越紧，连这种机会也没有了。
眼见得城中粮草不断地少下去，李开芳心里打起了鼓。这时他又得知了连镇太平军覆没的消息，越发感到高唐州非久留之所，于是计划突围。
1855年3月17日，李开芳扔掉所有马匹辎重，带着余下的三百人趁夜步行突围。
僧格林沁那鹰隼般的眼睛始终紧盯着太平军突围的方向，只要他愿意，完全可以将李开芳挡住，把太平军重新堵回高唐州——但这并不是他想要的。
他想要的，恰恰是李开芳正在做的。
在北伐以来的所有突围行动中，高唐突围可以说是最为失算的一次，它为李开芳最终的失败埋下了伏笔。
