就在这个青黄不接的关键时刻，一些汉人文官填补了空缺。他们建立起一支新式的军队，在没有得到正规军多大帮助的情况下，独力拯救了清王朝。这支新军叫做"湘军"，也可以说是湖南军队。后来又有另一支军队问世，叫做"淮军"，或称安徽军队，由李鸿章指挥。湘军和淮军是向现代中国军队发展的第一步。
湘军的创始者是曾国藩。在太平天国运动初期，江忠源指挥的一支由2000名志愿兵组成的部队发挥了很强的战斗力，使曾国藩受到了启发。由于左宗棠是因湘军而成名，这里应该较为详细地介绍这支军队的组织结构与武器装备。［10］
湘军的基本作战单位是营。1个营有5名营官和500名士兵。营下面有4个哨，1哨可以看作1个连；再往下就是队，也就是班；还有一支卫队，也分为若干班。各级组织和每一级的人数如下：
营官（营长）1名
亲长（高级军士，营长卫士）3名
什长（军士，营长卫士）3名
亲兵（营长卫士）60名
火勇（炊事兵，营长卫士）6名
哨官（连长）4名
哨长（副连长）4名
护勇（传令兵，通讯兵，每哨5名）20名
什长（军士，每哨8名）32名
正勇（士兵，每哨84名）336名
火勇（炊事兵，每哨9名）36名
军官总计5名，士卒总计500名
1个队或1个班通常由1名军士、10名士兵和1名炊事兵组成。1个哨或1个连由1名军官和107名士卒组成，装备如下：
亲兵（营长卫队）
2个队配备抬炮（轻型臼炮），每队1门，共24人。
1个队配备抬枪（火绳枪），共12人。
3个队一半装备刀剑，另一半装备长矛，共36人。
以上合计72人。
哨（连）
2个队装备小枪，每队6支，两人合用1支。共28人。
2个队装备抬枪。共24人。
4个队一半装备刀剑，另一半装备长矛。共40人。
传令兵和炊事兵共6人。
副哨长1人。
以上合计107人。
4哨共428人。
1营总计500人。
这样看来，1个营的武器装备包括2门轻型臼炮，48支小枪，90支火绳枪，95把刀剑，95支长矛。这是理论数字。实际上湘军的装备凡是能用的都会用上。在这些武器当中，一般认为小枪是英国人在1839－1842年的鸦片战争中使用最有效的武器。这是一种老式的大口径散弹短枪，重约20磅，防守时架在一个旋转支座上，野战时架在人的肩膀上。它能充填一把子弹或弹丸，近距离射击是致命的武器。太平军在清政府进入市场之前的若干年内曾向外国军队大批购买这种武器。他们在1857年和1860年取得的重大胜利，多半是由于优越的装备。1860年清政府开始采购外国制造的武器，与此同时，英国和法国禁止向造反军队出售军武。到了1864年，湘军的每个营都有几队装备了改良武器，取名"洋枪队"，也就是装备了外国来复枪的班。
