援救庐州最为心切的莫过于江家兄弟。江忠浚率领一千五百名楚勇开到，两战之后，进营西平门外的五里墩。第二天深夜，楚勇带着蜡烛和银子入城劳师。到此为止，城外援兵先后有四百人进城，但来自城外的援助仍然解决不了粮食问题。
舒兴阿不但不给和春调拨兵力，反而令张印塘从店埠向他靠拢。他手握重兵，却在第二次救援战斗中再遭惨败。他的骑兵向四面溃逃，舍马徒步逃跑，有的藏入松林，有的坐地哭泣。太平军赶到，一刀一个，犹如削瓜，有个太平军连杀十几名官军骑兵。
官军援兵云集庐州，本来占尽了优势。太平军号称几万人，其实只有一万兵力，遭到江忠源打击，死伤一半，多次受挫，打算撤围。但是城外官军不仅贪生怕死，还对百姓倒行逆施，失去了乡团的支持。太平军在几天内从劣势转为优势。他们在城内的间谍更加活跃，给胡以晃送来情报：守军已无粮食，军火也快用完，天国军队不应放弃攻击。
胡以晃信心陡增，令骑兵把官军援兵隔在外围，不许逼近城墙。他把最后攻击的目标锁定在水西门。这是一座旧城楼，江忠源就睡在城楼上。城楼外面地势起伏不平，便于隐蔽。胡以晃在要害处逼近城墙扎营，决定打一场硬仗，与江忠源一较高低。
守军的内讧给胡以晃提供了更有利的条件。淮勇头目徐怀义过去做过县里的衙役，有胡元炜做靠山，善于玩弄权术，他的死党饮酒赌博，每晚呼呼大睡，巡城官多次训诫，他们全不理睬。有些人过去就跟太平军勾结，时常靠在城头喊话，与敌军互通手语。太平军新招的枪手与徐怀义所募的乡勇都是近邻。城内的乡勇与胡以晃约定，在下一次攻击时举事内应。
咸丰三年十二月十七日凌晨，浓雾如雨，能见度极低。水西门地雷引爆，轰隆声中，十多丈外墙骤然垮塌。太平军冲向缺口，江忠源已领兵堵在这里，以猛烈的火力阻击，太平军被迫暂停冲击。江忠源急令各门严守，民众奋力呼喊，愿意效死。如果没有内应，太平军很难得手。可是太平军的奸细积极活动起来，在其他城门下手。拱辰门城楼有人放火，烧成一片火海，守城乡勇逃遁。有几人从东北面跑来，绕城大呼：“贼军杀来了，还不快逃！”这是造谣惑众，其实市民们还没有见到一名太平军。
拱辰门就是徐怀义负责驻守的地段。徐怀义放火驱走守军之后，自己也撤离岗位，把绳子拴在城垛上，让太平军攀绳登城。
水西门外还在继续战斗。江忠源纵兵将太平军击退后，马良勋率部追赶，杀到金斗圩，转战到城北，发现太平军已在这边爬上城头，马良勋挥师砍杀登上城墙的敌军。战了一个时辰，官军越打越少，马良勋受伤阵亡。
与此同时，太平军主力攻打大西门。这里是邹汉勋驻守的地段。他夜饮方半，听到喊杀声，拔出佩刀，冲上去杀敌，砍倒几人。太平军将他团团围住，一刀砍中他的颈脖，顿时鲜血迸射，头颅偏折。在两名士卒护卫下，他前行几步，倒地死去。这时戴文兰也已负伤。十几名死士杀开一条血路，企图向西大营求援，也被太平军拦住，全部战死。
太平军回头夹攻水西门。江忠源正在组织人员抢堵缺口，不料下层的地雷引爆，胡以晃指挥部队登上废墟。江忠源挥军拦截，无奈士卒或死或降，乱作一团。军士们听说城南有太平军登梯而上，军心大乱。天将明，露水簌簌如雨，几名军官砍开一条血路，簇拥着江忠源，请他离城而去。江忠源哪里肯逃，大声说：“城破了，如何向百姓交代！”说罢拔刀自刎，被随从拦下。
随从劝道：“大人，城外就有我们楚军的营盘，我们定能将大人护送到营中。”无奈江忠源已抱定必死的信心，不愿苟且逃生。一名士卒不由分说，将他扛在背上，奋力奔逃。行至水关桥的古塘，江忠源咬住他的脖子，迫使他放手。士卒忍痛不过，将他放在水滨，江忠源跳进古塘，溺水而亡。
那一天，庐州城内死去的官员，还有布政使刘裕和李本仁，以及池州知府陈源兖等人。庐州城破的过程，城外的援军或者亲眼目睹，或者亲耳所闻。城外的楚勇进行了最后的拼搏，仍然无法突破太平军的阻击线。
作为安徽的新任巡抚，江忠源看到了庐州人为战争付出的牺牲。他只有死在这里，才对得起自己的子民。悲壮地战死，是他自己的选择。咸丰登基以后，一直鼓励臣子们为朝廷殉难，但天子似乎并不希望江忠源死在庐州。北京已有廷寄送往安徽，上面有皇帝的朱批：不必与城共存亡。这道圣旨晚到了两天，不过，即便江忠源及时接到了圣旨，很可能他仍然会选择结束自己的生命。
江忠源死后，咸丰追赠他为总督，赐予“忠烈”称号，赏骑都尉兼一云骑尉世职，褒扬三代，入祀昭忠祠，并在湖南、江西和庐州为他建祠。
江忠源带领一支小部队，给清末腐朽的官军注入了积极的因素和新鲜的理念。他自从戎之后，总是力主攻击。一场大规模的战争，基本战略只有两种，就是攻与防。咸丰作为最高统治者，理所当然会倾心于进攻性的战略，也就是他所说的“痛剿逆贼，歼除丑类”。他希望臣子们能够忠实地执行以剿为主的积极的战略方针。但是从前线大员到宫廷谋士，不论文职还是武职，都落入了防守围城的窠臼，不是退守重点城市，就是跟在太平军后面尾追，几乎无人实施主动的攻击和积极的围剿。江忠源和左宗棠虽然跟咸丰有着共同的语言，但他们二人都是说不上话的小人物，只能郁闷地在大人物们画定的轨道上运转。左宗棠不愿奉陪下去，选择了放弃，得以全身而退，而江忠源逆流而上，成了保守战略的牺牲品。
江忠源是太平天国在运动初期的真正劲敌。由于对清末军政形势保持着清醒的头脑，他把自己的想法很快地付诸实施，迅速地从基层脱颖而出，给北京的统治者留下深刻的印象。他在广西作战时就显示了民兵在镇压造反者的战争中所具有的价值，他在蓑衣渡迫使太平军改变了进军路线，为湖南的省会部署防务赢得了时间，为清廷拯救了长沙。在长沙被围期间，他指挥自己的小部队为这座城市的防御发挥了重要的作用。他的行为具有开创性，为后来的湘军巨头如曾国藩、胡林翼和左宗棠等人提供了宝贵的经验教训，对他尊为老师的曾国藩影响尤大，启发曾国藩按照同样的模式组建一支军队，并且创建一支水师在华中的水道作战。
江忠源并非不懂得自己为什么会吃败仗，他是明知事不可为而为之。他的性格驱使他勇挑重任，不顾生死安危，哪里艰难就到哪里去。眼见得亲信的楚勇已经在战争中消耗殆尽，他却不愿停下来招募训练新勇，就匆匆投入几乎无望取胜的战斗，终于独臂难支，在胡以晃的进击下兵败身亡，这对后来人也是一个警示。
江忠源战死庐州前后，曾国藩加紧在衡州组建和训练新军。这支新军的组建，最初的动机是为江忠源提供有用的兵力，而最终的动机也是配合江忠源南北夹击。这同时也是咸丰皇帝的战略性安排。所以，曾国藩和江忠源的事业是一脉相承的关系。江忠源死后，曾国藩的崛起，对咸丰年间的军政格局发生了决定性的影响。
