二 创建湘军（咸丰三年至咸丰四年 1853—1854）
应命出山
曾国藩在白杨坪居住了不到半年。在这短短的几个月中，太平天国革命又有了很大发展，全国政治形势也发生很大变化。
当太平军围困长沙时，从各地赶来的清军又从外面将太平军包围。清军方面，城内外共有一大学士、两总督、三巡抚、三提督，总兵十一二员，兵勇六七万人。但由于没有统一指挥，所以行动很不一致，除向荣一试败北之外，其他各部皆观望不进，以致太平军夜半撤围北走，直到第二天上午清军才发觉，亦不敢紧追。因而太平军一路顺风，渡洞庭湖后如入无人之境，仅月余时间，即克岳州，占汉阳，下武昌。消息传到北京，清政府一片惊慌，立即下令将署理钦差大臣、署理湖广总督徐广缙革职拿问
，改任湖北提督向荣为钦差大臣，倚为长城。然而他已经吃尽了太平军的苦头，既不敢穷追紧逼，更不敢迎头拦截，只不过远远尾追而已；直到太平军攻占江宁后，向荣才赶到城外，在孝陵卫一带扎下大营。这就是史书上所说的清军江南大营。不久，琦善又在扬州设清军江北大营，与向荣一起威胁和监视太平天国的首都天京。
在太平军的进攻面前，各地驻军更是一触即溃，有的甚至闻风而逃。太平军从全州至武昌攻占所有各城，都没有遇到强大的抵抗。江忠源后来曾大发感慨地说：“军兴以来，法玩极矣！全州以失援陷，而赴援不力者相仍；道州以弃城陷，而望风逃溃者接踵。驯至岳州设防不能为旦夕之守，九江列舰不能遏水陆之冲，文武以避贼为固然，士卒以逃亡为长策。”曾国藩也说：“自军兴以来二年有馀，时日不为不久，糜饷不为不多，调集大兵不为不众，而往往见贼逃溃而未闻有与之鏖战一场者，往往从后尾追而未闻有与之拦头一战者。其所用兵器，皆以大炮、鸟枪远远轰击，未闻有短兵相接，以枪钯与之交锋者。”在太平军的打击下，清朝绿营兵的腐败无用暴露得就更加明显。
嘉庆初年镇压白莲教起义时，清政府曾号召所在地方官举办团练，协助绿营兵堵截追杀。最出名的团练武装主要有两股，分别由四川惯匪罗思举和游民桂涵带领，其凶残亡命过于官军，为清政府屠杀革命人民效尽犬马之劳。后来二人皆官至提督。鉴于这一历史经验，清政府在镇压太平天国革命和各地会党活动之初，就非常重视团练的作用。早在道光三十年九月，清政府就指示两广总督徐广缙亲赴广西劝谕士绅举办团练，至咸丰元年四月，广西地方官向清廷奏称，广西已通省举办团练，并一再奏报团练武装捕杀当地会党群众的情形，为反动士绅请功。团练武装不仅在各地拦击小股起义队伍，袭杀零散会党群众，还直接配合清军围剿太平军。太平军紫荆山根据地的双髻山要隘，就是当地团练武装配合清军向荣部攻陷的。咸丰二年太平军进入湖南，清政府又命令两湖地方官，尤其湖南官员举办团练，并令原湖北巡抚罗绕典驰赴湖南，协助湖广总督与湖南巡抚劝谕士绅，办理团练。不过当时还没有任命团练大臣。到了这年秋天，清政府见各地官员出于种种原因，不能有效地组织当地士绅举办团练武装，太平军所到之地，整个统治机器顷刻瓦解，遂采取两条措施，加紧举办团练。一是扩大举办团练的范围。自咸丰三年二月起，清政府发布命令，要求全国各省地方官普遍举办团练，不再限于太平军已经到达的地区。二是任命丁忧或请假在籍的官员为团练大臣，利用其人地两熟、便于联络各地士绅的条件，专门负责团练事务，以弥补地方官之不足。
清政府最早设团练大臣是在咸丰二年八月，任命的第一个团练大臣是江西团练大臣、前刑部尚书陈孚恩；接着，当年十一月二十九日（1853.1.8）任命曾国藩为湖南团练大臣；十二月二十五日任命在籍养病的前广西巡抚周天爵为安徽团练大臣；不久，又命工部侍郎吕贤基、翰林院编修李鸿章回安徽原籍办团练。不过这时设置团练大臣还仅限于太平军势力所及各省，人数也比较少。自咸丰三年二月将举办团练的政策推行于全国各省之后，团练大臣也一天天多起来，至当年二月底止，短短一个月内，就先后任命四批团练大臣，连陈孚恩、曾国藩、周天爵、吕贤基在内总计达45人，人数最多的山东一省就有团练大臣13人，比它稍次的江苏省也有团练大臣8人。同时，清政府还命令内阁将咸丰皇帝历次下达的有关举办团练的谕旨以及嘉庆年间明亮、德楞泰的《筑堡御贼疏》、龚景翰的《坚避清野议》刊刻印发各省，参照执行。由此可以看出清政府的团练政策和为动员各地土豪劣绅举办团练所做的努力。
湖南地主阶级具有丰富的镇压农民反抗的经验，其举办团练的历史也是由来已久的。早在乾隆末年，辰州府凤凰厅同知傅鼐就曾用普遍筑堡办团、募勇集练成军的办法镇压了湘黔边境的苗民起义。道光以来，反动士绅募勇成军镇压农民和少数民族起义的例子更是屡见不鲜，史不绝书，其中最突出的事例是江忠源。江忠源的家乡新宁县文化非常落后，“清代向无捷乡试者，迨丁酉科江忠源以拔贡中式，人谓之破天荒”，以是小有名气。但因其赌博嫖妓，遂为湖南“礼法之士”所不齿，唯与欧阳兆熊、郭嵩焘、曾国藩等人友善。道光二十七年，江忠源家乡新宁县爆发雷再浩起义，被他募勇镇压下去，由此名声大噪，保为知县，简发浙江，很快实授秀水知县，不久丁忧回籍。咸丰元年六月，赛尚阿充任钦差大臣，疏调江忠源随营差遣。他闻命即起，迅速赶往广西前线，留在乌兰泰幕中参谋军事，并令其弟江忠濬募勇五百名带往广西随营作战，号称楚勇，甚得乌兰泰赏识。这是湖南乡勇最早出省作战。咸丰元年底，江忠源从永安城外回家养病，闻太平军围攻桂林，又立刻增募新勇，力疾再出，并邀请刘长佑为助手，兼程赶赴桂林军营。刘长佑（1818—1887）字子默，号印渠，湖南新宁人，出生于一个小富绅家庭。自幼读书，屡试不中，在岳麓书院先后读书十二年，直到道光二十九年始考取拔贡生。这年冬，雷再浩旧部李沅发在新宁起义，刘长佑亲自组织团练，参加了镇压活动。转年经江忠源引荐，在京求见曾国藩。曾国藩对他“深相爱重”，一见即“叹曰：‘戡（音“堪”）乱才也’”。他与江忠源自幼气味相投，又是姻亲，所以一得到邀请便欣然应命，从此开始了镇压太平天国革命的反革命生涯。在桂林城外，江忠源、刘长佑率领的楚勇曾屡次与太平军交战，江忠源亦因此迁为知府。后因与向荣意见不合，离营回湘，闻太平军从桂林撤围北上，欲入湖南，急在湘江上游的险要地段蓑衣渡设伏袭击太平军，致使太平军兵力损耗一半，辎重给养全部丢弃，杰出领导人冯云山壮烈牺牲，遭受起义以来从未有过的损失。当时长沙兵力空虚，士无战心，城墙倾圮，城门残缺不全，若太平军沿湘江顺流而下，攻取长沙是很容易的。由于江忠源的袭击，迫使太平军不得不弃舟登陆，绕道湘南，以致丧失了攻克长沙的最好机会。其后江忠源又间道趱程赶往长沙，参加了各路清军防守长沙的战斗，并因长沙城守及镇压会党起义之功擢为道员。
曾国藩的家乡湘乡县也是湖南举办团练最早的县份之一。早在道光二十九年曾国藩的二弟曾国潢就在家乡组织“安良会”，对付吃“排饭”的饥民。咸丰元年刘东屏、刘蓉父子和曾麟书、曾国潢父子在湖广总督程矞采、湘乡知县朱孙诒的支持下组织团练武装，镇压湘乡县境内的抗粮斗争。他们亲自购置眼线，率勇捕人，连自己的亲戚朋友也不放过，很快把这场斗争镇压了下去。咸丰二年春太平军久攻桂林不下，广西巡抚邹鸣鹤即移咨湖广总督程矞采，言太平军有入湘之象，让湖南方面早作准备。消息传出后，湖南各县官绅纷纷举办团练，而湘乡知县朱孙诒则尤为积极。他亲自召集各乡巨绅议定团练章程，并在湘乡县城和永丰、娄底两处分设三个团练局，号召各乡士绅普遍办团。同时还在湘乡县城成立总团，请曾国藩的父亲曾麟书以湘乡首户巨绅总其成，并敦请著名士绅罗泽南、刘蓉等协办本县团练。
罗泽南（1807—1856）字仲岳，号罗山，自幼家贫，十九岁起以教书为生。他刻苦攻读，屡应乡试不中，直到道光三十年才被湘乡知县朱孙诒举为孝廉方正。罗泽南早年交游不广，道光十八年始与刘蓉交好，道光二十四年又与郭嵩焘、郭崑焘兄弟相识，直到咸丰元年在善化贺长龄家教书时方与曾国藩通信。罗泽南是个忠于封建礼教的士人，多年来潜心程朱理学，并著有《西铭讲义》、《人极衍义》等书，甚为曾国藩所推崇。曾国藩说罗泽南之志“以为天地万物本吾一体，量不周于六合，泽不被于匹夫，亏辱莫大焉”。他曾长期在善化、湘乡等地教书，向青年学生灌输封建伦理观念，培养出一大批忠于封建秩序的儒生。湘军骨干人物王錱、李续宾、李续宜、蒋益澧、刘腾鸿、杨昌濬、刘典等都是他的学生。王錱（1825—1857）字璞山，原名开作，字家宾，二十岁入县学，同年投到罗泽南门下为弟子，初办团练时王錱最积极，在罗泽南诸弟子中地位亦最高，湘乡练勇集训之始，他就独领一营，所以后来的湘军将领多为罗、王、江、刘旧部。李续宾（1818—1858）字迪庵，湖南湘乡人。李续宜字克让，号希庵，李续宾胞弟。李续宾年少时膂力过人，不喜读书，因亲老家贫，以贩煤养亲并供弟读书。罗泽南欣赏他的“孝友”，将他兄弟二人一并收为弟子。蒋益澧字芗泉，刘腾鸿字峙衡，杨昌濬字石泉，刘典字克庵，皆为湘乡人，罗泽南办团练时他们都一齐参加进来，后来皆成为著名的湘军将领。
太平军进入湘南地区后，湖广总督程采曾令湘乡知县朱孙诒募勇千人赴衡州防堵，从此，湘乡县不仅有遍布各乡的团丁，还有一支由官府出钱、集中于县城进行编练的练勇。当时湘乡练勇有一千多人，分为中、左、右三营，分别由罗泽南、王錱、康景晖带领（后来右营营官改任邹寿章）。太平军离开湖南后，罗泽南因办团练出力被保为候补训导。
除新宁、湘乡而外，湖南的其他县份也办起了团练，用以对付会党起义和群众抗粮斗争。其组织办法与湘乡相似，通常是各乡普遍办团，同时招募部分乡勇在县城集中训练，称为练勇，费用由各府、县官库支给。其余各乡团练则由各乡绅自行筹集，自行经管。在镇压各地会党和防堵、袭击太平军的活动中，除以上两县外，辰州、宝庆、泸溪、浏阳等地的练勇也比较有名，皆已编练成军。这些练勇就成为后来曾国藩创办湘军时最初的组织基础。
曾国藩于咸丰二年十二月十三日（1853.1.21）接到寄谕，令其协同巡抚办理湖南团练，镇压农民反抗。当时，他刚在两个月前将其母的棺柩厝置于居室之后，还没有来得及举行葬礼，接到这个谕旨，不由使他左右为难起来。当时太平军离开湖南不久，各地会党十分活跃，纷纷起事，犹如一锅即将沸腾的开水。对地主阶级来说，镇压这些在太平天国革命鼓舞下即将起来造反的群众，尽快恢复封建秩序，不能说不是当务之急。这也正是曾国藩日思夜想、视为至重至大的问题。他在丁忧乡居期间所写的《保守太平歌》，其主旨就是动员地方士绅组织起来对抗农民革命的。既有如此机会，何不出手一试？从这方面想，曾国藩觉得是应该出山的。但想到另一方面，又使曾国藩感到难于成事，顾虑甚深。他一怕丁忧期间出来任事受人讥笑，二怕在自己家乡办理地方事务多有不便；不过这还都是次要的，更为主要的是，他痛恨统治阶级当权者的腐败无能和一般地主士绅的软弱散漫，担心难以同这些人合作。倘若事事掣肘，处处荆棘，则自己无望成功，有缘受过。与其将来自遗后悔，不如现在就深居不出。他在给朋友的信中描写当时愤愤不平的心情说：“今日不可救药之端，唯在人心陷溺，绝无廉耻。……窃尝以为，无兵不足深忧，无饷不足痛哭，独举目斯世求一攘利不先、赴义恐后、忠愤耿耿者不可亟得，或仅得之而屈居卑下，往往抑郁不伸，以挫、以去、以死，而贪饕退缩者果骧首而上腾、而富贵、而名誉、而老健不死。此其可浩叹者也。”想到这些，又使曾国藩神气沮丧，裹足不前，遂具疏辞谢，陈请终制，准备交张亮基代发。
不料就在这时，忽然接张亮基的来信，惊闻太平军攻克武汉的消息。曾国藩的心立刻紧缩起来，深恐太平军一旦反攻过来，巢穴不保，安身无处，因而心为所动，感到深居山林，亦非乱世良策，又对自己的决定踌躇起来。恰在此时，郭嵩焘受张亮基之托，连夜赶到曾家，敦劝曾国藩出山。郭嵩焘对曾国藩说，你“本有澄清天下之志，今不乘时而出，拘于古礼，何益于君父？且墨绖从戎，古之制也”。这些话正中曾国藩的下怀，只是难于改口。于是郭嵩焘又去动员曾国藩的父亲，曾麟书亦同意郭的看法，怂恿曾国藩出办团练。这样，曾国藩既有保全桑梓的名号，又有父命可秉承，就不怕别人疑其用心、讥其不孝了，因而破釜沉舟，决意出山。后来他在给江忠源的信中解释自己的这一思想变化时说：“大局糜烂至此，不欲复执守制不出之初心，能尽一分力，必须拼命效此一分，成败利钝，付之不问。”这些话是基本符合他的实际情况的。这也说明，他在乡居的几个月中思想又深化了一步。他之所以把问题看得那么难，就是因为他对问题想得比当时的一般人深透得多，要解决这些问题就决不是小修小补所能奏效的，因而不干则已，干必从头做起，放手大干。曾国藩就是带着这种拼命直前、不顾一切的情绪投入对农民阶级和内部反对派的斗争的。
咸丰二年十二月十七日（1853.1.25），曾国藩和郭嵩焘一起从家乡动身前往长沙。途经湘乡县城时，又特意会见了朱孙诒、罗泽南、刘蓉、王錱等人。他们刚接到湖南巡抚张亮基征调湘乡练勇一千人赴省守卫的札饬，便与曾国藩一同启程，二十一日赶到长沙。这些人也就成为曾国藩办理团练、训练湘军的最初班底。
办团练勇
太平军离开湖南后，湖南原有驻军大部分跟随向荣一起尾追而去，因而造成湖南省城长沙和全省各地兵力空虚的局面。对于这种状况，曾国藩深感忧虑，一方面害怕太平军重新打回来，攻打长沙，本省无力防守；一方面又怕群众起来造反，省城与各县无兵可派。曾国藩的担心并非无据。太平军攻克武昌后声势大震，已成不可阻挡之势，虽然暂时移兵下游，但依照曾国藩之见，必有重新打回来的一天，只不过时间早晚而已。因而长沙没有重兵守卫是非常危险的。当时湖南各地的会党群众，尤其衡阳、永州、郴州、桂阳地区和宝庆府，在太平天国革命的鼓舞下十分活跃，若不及时镇压下去，必然变成第二个广西。曾国藩对这种情况的担心并不亚于前者。倘若两种情况同时出现，交相呼应，湖南就不为官府所有了。因而曾国藩一到省城，就面临两个最迫切的任务：一是加强防卫省城的军事力量，太平军一旦来攻，可据城防守；二是迅速将各地会党镇压下去，清除太平军的内应，恢复和稳定被打乱的封建社会秩序。这两件事都必须赶在太平军打回湖南之前做完，否则结局不堪设想。
针对上述情况，曾国藩采取了三种对策。曾国藩认为，对付集中而强大的太平军，必须有一支凶悍敢战的军队。有了它，太平军返回湖南，可以据城抵抗，守卫“桑梓”；太平军不来湖南，则可以出省作战，主动进攻。而这支军队的来源不外两个途径；一是从外省调拨，一是自己募勇训练。从当时情况看，第一种办法是行不通的。各省既已自顾不暇，何有兵力支援别省？况且即使费尽气力拼凑一些，也不一定顶用。因而最好的办法还是募勇训练，自己解决。湖南巡抚张亮基早已想到了这一点，并且在此之前已札调湖南一些府、县的练勇来省城助守。曾国藩带领湘乡练勇赶到长沙时，各县练勇也陆续赶到，其中主要有新宁县的新宁勇、辰州府的辰勇、宝庆府的宝勇、浏阳县的浏勇、泸溪县的泸溪勇等。曾国藩还就如何办理团练和集训练勇的问题与张亮基进行过讨论。曾国藩认为，“团练仅卫乡里，法由本团醵（音“聚”）金养之，不饷于官，缓急终不可恃”。因而提出将所调各县练勇改为募勇，训练成军，用以对抗太平军和镇压本省各地会党活动。张亮基同意了曾国藩的意见，遂将调集省城的各县团练武装改为官勇，由湖南巡抚和团练大臣负责指挥，发粮饷。当时曾国藩称湖南官勇为“大团”。他到达省城的第二天，就在征得张亮基的同意之后，发出了他早已拟好的奏折。曾国藩在奏折中说，太平军既破武昌，就有重回湖南的可能，长沙为省城重地，不能不严为防守。现在湖南兵力空虚，长沙防御薄弱，而邻近各省又无兵可调，因于湖南省城立一大团，就各县曾经训练之乡民，择其壮健而朴实者招募来省，参照前明戚继光、近人傅鼐成法，实力操练，以便镇压各地大股农民起义和守卫省城。可以说这是曾国藩募勇成军的最初设想。
曾国藩虽然身为团练大臣，但并不相信团练武装在对太平军的作战中能发挥什么作用。他认为，嘉庆年间虽有依靠团练武装镇压白莲教起义的成功经验，但至咸丰初年，情况发生了很大变化，已不甚适用了。首先是饷源不同。嘉庆初年，团练费用出自国库，因而可以大力举办，不会增加地方和民间负担。到了咸丰初年，清政府财政拮据，军饷尚且难以为继，何有余力供给团练费用？因而团练经费概由地方士绅自筹自管，与官府无涉。其次是作战对象不同。当时的白莲教起义人少分散，此伏彼起，内部宗派分歧，没有统一指挥，利于各地团练武装堵截追袭，各个击破。而太平军则组织严密，指挥统一，水陆并进，号称百万。一旦行动起来，急如风雨，力过千钧，清朝正规军八旗、绿营且逃之唯恐不速，团练武装何能螳臂当车？更有甚者，如果委任不得其人，承办人员乘机搜刮民财，必使走投无路的广大群众起而反抗，无异火上浇油。这样来举办团练，不仅不能达到自救的目的，反而会引火烧身，加速灭亡。这在历史上是不乏其例的。明代末年加派辽、练、剿三饷所引起的严重后果，对清朝来说可谓“殷鉴不远”。曾国藩熟悉往代历史，深恐发生这种情况，所以对举办团练一事采取不求其成，但防其弊的态度，即使团练自行瓦解也在所不惜。他在给朱孙诒的信中说，“去冬之出，奉命以团练为名，近来不谈此二字，每告人曰乡村宜团不宜练，城厢宜练不宜多。如此立说，明知有日就解散之弊，然解散之弊尚少；若一意操切行之，则新进生事者持札四出，讹索逼勒，无所不至，功无尺寸而弊重邱山，亦良可深虑也。”他在给张亮基的信中则干脆说：“唯团练终成虚语，毫无实裨，万一土匪窃发，乡里小民仍如鱼听鸣榔、鸟惊虚弦，恇怯四窜，难可遽镇也。”
但曾国藩是团练大臣，咸丰皇帝给他的任务是“帮同办理本省团练乡民搜查土匪诸事务”，并没有让他募勇练兵，建立军队。所以他不得不打着办团练的旗号，把自己的计划纳入其中，以求名正言顺。为此，他在“团练”二字上大做文章，将本来并无二致的一个名词“谬加区别”，一分为二，一则称“团”，一则称“练”，把它变成高下悬绝的两种不同组织。他说：“团练二字宜分看：团即保甲之法，清查户口，不许容留匪人，一言尽之矣；练则制械选丁，请师造旗，为费较多。”后来他在向别人介绍经验时又说，“团练一事，各省办法不同，议论各异，约而言之不外两端：有团而兼练者，有团而不练者。团而不练者不敛银钱，不发口粮，仅仅稽查奸细，捆送土匪，即古来保甲之法；团而兼练者必立营哨，必发口粮，可防本省，可剿外省，即今日官勇之法。国藩于咸丰二年冬奉旨办团练，即募乡勇一千零八十人在省集训”，“系在藩库支饷。余皆团而不练，不敛民财”。可见曾国藩当时虽名为团练大臣，但对于一般乡团并无太大的兴趣。他既没有机械执行清政府的命令，也没有盲目效仿前人，照抄邻省，而是根据实际情况和地主阶级的根本利益，打着办团练的旗号另搞一套，志不在团练，而在建军。应该说，曾国藩的政治眼光还是高出清政府和同时流辈的。他自己对此亦非常得意，说“默思所行之事，唯保举太滥是余乱政，不办团、不开捐是余善政”。
对于那些已经组织发动起来、而州县又无力对付的大股会党起义，曾国藩则令当地官员和团练头子提供情报，布置眼线，一面就地监视，一面向省城报信，由他派勇前往镇压。当时曾国藩集练的湖南官勇，即所谓“大团”，主要是在省内作战，镇压本省公开起来造反的农民和堵截邻省进入湖南的小股起义军。咸丰三年二月，衡山会党曹戭、李跃在草市聚众起事，曾国藩即派刘长佑、王錱率勇前往镇压。这是这支初创的反动武装第一次离开长沙赴外县作战。从此以后，凡遇有规模较大的起义而州县无力对付者，辄派他们前往，凶焰遍及酃县、衡山、兴宁、茶陵、安仁、宜章等地。
曾国藩集练的湖南官勇第一次出省作战，是咸丰三年赴援江西之行。这年夏天，湖北按察使江忠源奉命帮办江南军务，由湖北广济前往江南大营赴任，行至九江，惊闻太平军欲攻打南昌的消息，急忙赶到南昌城中助守，以所带兵勇过于单薄，奏请增援。曾国藩同湖南巡抚骆秉章商定，派楚勇二千、湘勇一千、镇兵六百，共计三千六百人，由夏廷樾、朱孙诒、郭嵩焘、罗泽南率领，分三批启程前往南昌。结果带兵书生心狠手拙，在南昌城下遭到太平军的伏击，死骨干七人、兵勇七八十人，罗泽南的得意门生谢邦翰、易良干、罗信东、罗镇南等同日毙命。曾国藩听到这个消息且喜且忧：喜的是书生临阵敢战，远胜绿营员弁，亦证明他不用营弁、纯用书生带兵的办法切实可行；忧的是初集之勇尚不善战，尤其谢邦翰、易良干等人皆为罗泽南手下得力骨干，竟一战死去，不能不使曾国藩痛心。当时湘勇虽数逾两千，经过训练者实则只有三营一千多人。罗泽南带往江西的一千湘勇，也只有一营受过训练，其他两营皆是未经训练的新募之勇，谢邦翰营即其中之一。从此曾国藩更加重视对新勇的训练，把它看作决胜的基础。
咸丰二年底曾国藩初到长沙时，张亮基所调各县练勇，除湘勇外还有新宁勇、浏勇、泸溪勇、辰勇、宝勇等，其后新宁勇、泸溪勇在张亮基调任署理湖广总督时全部被带走，辰勇、宝勇交由塔齐布教练，实际上由曾国藩直接训练的只有湘勇。曾国藩最初带往长沙的湘勇只有一千零八十人，分为三营，中营由罗泽南管带，左营由王錱管带，右营由邹寿章管带。咸丰三年夏，湘勇已增募至八营二千七百人，罗泽南率领三营一千人赴援江西，王錱率一营前往衡山、桂东、兴宁一带镇压会党，邹寿章率一营去浏阳守卡，防止太平军由江西进入湖南。这样，曾国藩身边便只有新募的新化勇三营一千多人了，于是他便对这批新勇进行严格训练。
曾国藩对付个别群众和小股会党反抗活动的政策是“就地正法”。其具体办法是令各地团练头子直接捕杀和捆送形迹可疑、眉眼不顺之人，或批令各县就地处决，或送往省城交他讯办。当时政局动荡，天下大乱，一般地主富户都不敢公开同贫民、会党作对，各地肯于出面办理团练的多是为恶一方的土豪劣绅。他们平时武断乡曲，鱼肉百姓，一旦办起团练，就更是无法无天，成为当地的土皇帝。他们所纠集的乌合之众虽然打起仗来没什么战斗力，但其残忍嗜杀则过于清朝的正规军。所以曾国藩说，“以之御粤匪则仍不足”，但“以之防土匪则已有馀”。为了迅速地把各地农民的反抗活动镇压下去，曾国藩大张绅权，积极扶植这帮反动地主，用以对付贫苦农民和会党群众，并美其名曰“借一方之良锄一方之莠”。所谓“良”即“良民”，指那些积极起来维护封建秩序的土豪劣绅；“莠”即“莠民”，指那些不甘忍受封建剥削和压迫的贫苦农民。
曾国藩还提倡以本乡、本族之绅捕杀和捆送本乡、本族敢于反抗之民，“轻则治以家刑，重则置之死地”，处治大权尽归团长、族长掌握，这样既了解情况，又可避免引起乡村或宗族间的争斗。开始，曾国藩与张亮基商定，各地团练头子抓到会党群众捆送省城者，概交湖南首县善化县审理；后来曾国藩嫌其杀人不多不快，便在团练大臣公馆设立审案局，甚至已经送到善化县的人，也要强行提来杀掉。曾国藩早就对清朝地方官吏腐败无能深怀不满，更不信任承办案件的胥隶、书役人员，决心于司法机关之外设置新的机构，自行审案杀人。他在给朋友的信中说：“顷已在公馆立审案局，派知州一人、照磨一人承审匪类，解到重则立决，轻则毙之杖下，又轻则鞭之千百。敝处所为，止此三科，巨案则自行汇奏，小者则惟吾专之，期于立办，无所挂碍牵掣于其间。案至即时讯供，即时正法，亦无所期待迁延。”
他为了调动州县官员和土豪劣绅的积极性，将过去衙门办案的“一切勘转之文、解犯之费都行省去，宽以处分，假以便宜”，为这些恶棍捕杀和捆送农民大开方便之门。同时，对被捆送者的处置，既不依照法律条文，也不需任何证据，唯以土豪劣绅们的言词和要求为据，稍加讯问，立即结案，重则砍头，轻则杖毙，最轻的也要鞭之千百，瘐死狱中。总之，曾国藩的审案局就是阎王殿，土豪劣绅犹如无常鬼，凡是被各地团练头子捆送审案局的人，就休想活着回去。据曾国藩自己奏称，截至咸丰三年六月止，仅四个月内，审案局就直接杀人一百三十七名，其中“立予正法”者一百零四名、“立毙杖下”者二名、“监毙狱中”者三十一名。曾国藩批令各县就地处死者和后来捕捉的串子会群众九十二名尚不在其内。他自己后来承认杀了二百多人，实际当大大超过此数。
曾国藩所以采用这种非常手段对付敢于起来进行反抗的农民群众，不外这样几个目的：首先是制造白色恐怖，使当地群众不敢接近太平军。当他听说江西百姓纷纷欢迎太平军，并以粮食、用品相接济时，恨得咬牙切齿地说：“贼若侵犯楚疆，敢有乱民效彼之为，吾纵不能剿贼，必先剿洗此辈！”他认为只有“使民畏我远过于畏贼”，才能达到孤立太平军的目的，这样，即使有一天太平军打进湖南，得不到当地群众的支持，也就无所作为了。其次是杀一儆百，使在太平军鼓舞下革命情绪日趋高涨的广大群众重新屈服于清朝反动统治者的淫威之下，以尽快恢复被太平军和会党冲乱了的社会秩序。曾国藩认为，由于几十年来“应办不办之案”、“应杀不杀之人”层积无数，加以各地农民纷纷造反，尤其太平天国革命的鼓舞，使社会底层的贫苦农民也抬起头来，“遂以为法律不足凭，长官不足畏”，“若非严刑峻法，痛加诛戮”，就不能打消人民企图摆脱清朝统治的念头，使一些即将起来造反的人重新回到封建秩序中来。所以他效法“武健之吏”，“不复拘守常例”，用极为残酷的手段对付敢于反抗的农民，惩既往而儆效尤。他还在奏折与书信中一再表示，只要能使地主士绅安居乐业，自己即“身得残忍严酷之名亦不敢辞”。第三是为土豪劣绅撑腰，以便把他们发动起来，举办团练，重新组织起地主阶级的队伍，对抗农民革命。早在咸丰元年曾国藩就已经看到，在会党活跃的湘南地区，已有一部分地主士绅向当地农民低头，虽然心里不情愿，表面上却不得不低声下气，甚或送钱送酒讨好会党，以求旦夕之安。他认为，在整个地主阶级人心惶惶、垂头丧气的情况下，如果不把农民的气势压下去，乡里的大多数地主老财便不能抬起头来，更不敢公开响应他的号召，组织团练对抗太平军和当地起来造反的农民。因而他在给欧阳兆熊的信中说：“人心陷溺固已抵此，独严缚匪党，动与磔死，差令良善得以伸彼之气而应吾之令耳。”
当时湖南会党的势力是很强的，虽有一部分随太平军离开湖南，但潜在势力仍然很大，他们正积极活动，准备发动较大规模的起义，整个形势若箭在弦上，弯弓待发。湖南地方官明知此情却莫敢如何，深恐激成大变，引火烧身，因而相与掩饰，以求苟安一时，其情形与太平天国起义前夕的广西非常相似。曾国藩咸丰三年春在奏折中描写当时的形势说：“湖南会匪之多人所共知。去年粤逆入楚，凡入添弟会者大半附之而去，然尚有余孽未尽。此外又有所谓串子会、红黑会、半边钱会、一股香会，名目繁多。往往成群结党，啸聚山谷，如东南之衡、永、郴、桂，西南之宝庆、靖州，万山丛薄，尤为匪徒卵育之区。”“盖缘近年有司亦深知会匪之不可遏，特不欲祸自我而发，相与掩饰弥缝，以苟且一日之安，积数十年应办不办之案而任其延宕，积数十年应杀不杀之人而任其横行，遂以酿成目今之巨寇。”由于曾国藩的残酷镇压，致使已经发动起来的起义尽被扑灭，正在酝酿的起义销声敛迹，被冲乱的封建秩序迅速得以恢复，地主官绅重新巩固了自己在广大城乡的统治，使湖南不仅没有成为一个新的革命策源地，反而成为曾国藩集团镇压太平天国革命的首要基地。
但是，曾国藩如此残暴地屠杀会党群众，不仅为广大人民所切齿痛恨，也受到社会舆论的抨击，一时间“曾剃头”、“曾屠户”之类的诨号和各种诅咒传遍湖南，致使对他追随很紧的李瀚章等人都为他担起心来，不得不致书规劝。当统治阶级用正常的法律手段无法镇压人民的反抗时，总是采用一种非常手段。所以，曾国藩的做法虽然遭到人民的痛恨和一部分士绅、官员的反对，但却得到清朝最高统治者咸丰皇帝的支持。咸丰三年二月曾国藩上奏自己办理团练的政策时说，对于“教匪”、“盗匪”、“会匪”以及逃兵、溃勇、乞丐、游手等“游匪”，“尤认真查拿，遇有形迹可疑曾经抢掠结盟者，即用巡抚令旗，恭请王命，立行正法。臣寓馆设审案局，派委妥员二人，拿获匪徒，立予严讯。即寻常痞匪，如奸胥、蠹役、讼师、光棍之类，亦加倍严惩，不复拘泥成例，概以宽厚为心”；又说：“当此有事之秋，强弱相吞，大小相侵，不诛锄其刁悍害民者，则善良终无聊生之日，不敢不威猛救时，以求于地方有益。”他向皇帝表示：“臣之愚见，欲纯用重典，以锄强暴。但愿良民有安生之日，即臣身得残忍严酷之名亦不敢辞；但愿通省无不破之案，即剿办有棘手万难之处亦不敢辞。”奏折呈上之后，咸丰皇帝立即在上面朱批道：“办理土匪，必须从严，务期根诛净尽。”当曾国藩在湖南官场中极为孤立的时候，得到咸丰皇帝的这个朱批，如获上方宝剑，再不怕地方官员的反对和社会舆论的谴责；湖南大吏对曾国藩的这套做法虽有反感，亦不敢公开进行阻挠，只好听之任之。这样，曾国藩就在近代史上开了最恶劣的先例，撇开一切法令条文和司法机关，不经任何法律手续，随意捕人、杀人。因而，他受到其后所有反革命刽子手的崇拜和效法，同时也受到革命人民和一切正直学者的批判。早在清朝末年就有人指出：“就地正法之制倡于湘乡（指曾国藩），秦、隋之暴所未有也。不经法司而可以杀人，则刑部为虚设，而民命同于草芥。淫刑已逞，惨酷已极，彼尚不肯奏改于贼平之日，而谓其不得已之苦衷可以告天地，质鬼神，其谁信之？”应该说，这些话是很有道理的。
本来，清政府在各省设立团练大臣，令其协同地方督抚组织团练，镇压当地农民的反抗活动，不过是在兵力不足、财政拮据的情况下临时采取的辅助手段和应急措施，张亮基札调各县练勇助守省城也是临时抱佛脚的办法，谁也没有把消灭太平军的希望寄托在这伙土头土脑的地主乡团武装的身上。有些官吏甚至把它看成是一种应景的事，虽然太平军攻来时一片惊慌，一旦时过境迁，就很少有人认真对待了。即使一些凛遵王命、办事认真的人，也不过墨守成规，照章搬用，花费巨款纠集一群乌合之众，并无多大作为。正是这种普遍存在的腐败风气和短浅眼光，使那些湖南官员很少有人理解曾国藩的所作所为对他们本阶级的意义，一见曾国藩越俎代庖，到处伸手，严重侵犯了他们的权力，便多方阻难，层层设防，甚至视若寇仇，群起而攻之。
团练大臣既非地方大吏，又非钦差大臣，非官非绅，处境尴尬，是很难有所作为的，更何况力排众议，独辟蹊径？有人说，曾国藩初办团练时，一到长沙就受到“三宪”的轻慢。这里所说的“三宪”当为湖南巡抚潘铎、布政使徐有壬、按察使陶恩培，这是张亮基调走后的情况。湖南巡抚张亮基对曾国藩还是很支持的，曾国藩的出山，甚得张亮基敦促之力。张亮基在长沙时，曾国藩办事很顺利。可惜好景不长，不几天张亮基即被调走，改任湖南布政使潘铎署理巡抚，原云南布政使徐有壬调任湖南布政使，按察使则是刚由衡永郴桂道提升不久的陶恩培。这三个人都不买曾国藩的账，对曾国藩集练的官勇尤为歧视。特别是徐有壬、陶恩培二人，始终反对曾国藩，有时甚至有意刁难，不断发生矛盾，双方结怨甚深。咸丰三年三月潘铎因病请假，前湖南巡抚骆秉章重任旧职，这一变动对曾国藩的处境也并没有带来什么改善。虽然就整个来说，骆秉章是同曾国藩集团配合最好的地方大吏，但在咸丰三、四年间对曾国藩的做法并不理解，虽然没有发生什么公开冲突，但关系却相当淡漠。这就使那些对曾国藩不满的湖南官吏感到有机可乘，无所顾忌，曾国藩也就更加孤立，难以在长沙立足了。
曾国藩在湖南搞得如此狼狈，主要还是由于他手伸得太长，越职侵权，一味蛮干，令湖南大吏无法容忍。例如曾国藩所设审案局随意抓人杀人，便是对湖南司法机关（提刑按察使司）的公然蔑视和侵越；令绿营军官与练勇一起会操，以及弹劾德清、保荐塔齐布，便是对提督权力的蔑视与侵越。他之所以这样做，并非不懂得这层道理和湖南官吏的心理，而是有意标新立异，独出心裁，摸一摸老虎屁股。他在给龙启瑞的信中说：“今年承乏团务，见一二当轴者自藩弥善，深闭固拒，若唯恐人之攘臂而与其间也者。欲固执谦德，则于事无济，而于心亦多不可耐。于是攘臂越俎，诛斩匪徒，处分重案，不复以相关白。”在给骆秉章的信中也说：“侍今年在省所办之事，强半皆侵官越俎之事。以为苟利于国，苟利于民，何嫌疑之避？是以贸然为之。”这样，在湖南官员中就不能不引起对曾国藩的憎恶和不满。
按照清朝常例，各省绿营兵辖于总督，巡抚及其以下文官，除兼有提督衔者外，不得干预抚标营以外营兵操练事务。湖南设有提督，绿营操练例由提督负责，巡抚无权过问。曾国藩以在籍礼部侍郎帮办团练事务的身份，当然更无权干预营务了。但是曾国藩却不避嫌疑，通过塔齐布渐渐把手伸向了绿营军。塔齐布（1817—1855）字智亭，满洲镶黄旗人，姓陶佳氏。曾国藩刚到长沙时，曾聘请三位教师教练官勇武艺，塔齐布为其中之一。后来曾国藩辞去其余二人，仅留塔齐布一人，令其教练辰勇和宝勇。当时塔齐布以都司署理抚标中营守备，因其剽悍骁健，无一般旗人和绿营官弁的腐败习气而甚受曾国藩的赏识，一再为他保奏，很快由都司而游击，而参将。塔齐布对曾国藩感恩戴德，唯命是从；曾国藩为取得清政府的信任，亦有意礼贤下士，倾身交纳这个旗人出身的绿营末弁。二人遂交往渐密，事事相依。
曾国藩练勇，除每日进行军事训练外，还规定三、八两日进行政治训练，其具体办法是由曾国藩亲自对兵勇训话，重点是纪律教育和为人处世之道。从咸丰三年四月起，又通过塔齐布传令营兵会操，并与练勇一起听取政治训话，虽盛夏亦无一日之间断。绿营将骄兵惰，一向蔑视团练，轻视文官。在他们看来，曾国藩以团练大臣令他们与练勇会操，简直是一种污辱。此外，他们平日根本不进行认真训练，更兼有烟酒恶习，何能忍受“夏练三伏”之苦？因而对曾国藩此令大为不满，尤以长沙协副将德清反对最力。结果，令出之后，唯塔齐布独领所部前往，其余驻长沙各营不仅拒绝会操，还指责塔齐布谄事曾国藩，群起而攻之。曾国藩闻之，遂以平日惰于操练、战时临阵退避为由参劾德清。德清不服，前赴湖南提督鲍起豹处诉冤，并反控曾国藩六月操兵为虐待军士，塔齐布与练勇会操为破坏营制。鲍起豹遂扬言，盛夏操兵乃虐待军士，敢有违令操演者军棍从事！塔齐布闻之畏惧，从此再不敢领营兵前去会操。湖南司、道官员等见此情景心中暗喜，认为是对好事者应有的惩戒。在这种气氛下，绿营兵就更加气焰嚣张，肆无忌惮。
不久，鲍起豹的提标兵（又称永顺兵）与塔齐布统带的辰勇因赌博发生斗殴，提标兵鸣号列队，准备讨伐辰勇。曾国藩欲杀一儆百，稍抑绿营兵这种怯于战阵而勇于私斗的风气，遂移咨提督，指名索捕肇事士卒。鲍起豹非常气愤，故意大肆张扬，公然将肇事者捆送曾国藩公馆。提标兵群情汹汹，散满街市，先去围攻塔齐布，毁其居室，塔齐布匿于草中幸免丧命；接着又于当晚冲进曾国藩的团练大臣公馆，枪伤随身亲兵，几乎将他击中。曾国藩狼狈万状，只得向骆秉章求援。曾国藩的公馆就设在湖南巡抚衙门的射圃内，中间仅一墙相隔，事情闹到这般地步，近在咫尺的骆秉章竟装聋作哑，坐观事态的发展，直待曾国藩前去打门，方才故作惊讶，出而解围。骆秉章一到，便给肇事者亲自松绑，并向其赔礼道歉，而对备受屈辱的曾国藩却无一语相慰。事过之后，骆秉章对永顺兵和鲍起豹亦无追究弹劾之词，永顺兵事件遂不了了之。更使曾国藩难堪的是，长沙城中浮言四起，湖南巡抚及司、道官员皆认为曾国藩不应干预兵事，永顺兵事件实属自取其辱。这样，曾国藩就再也无法在长沙待下去了，只好借口湘南形势不稳，须亲自坐镇，于咸丰三年八月离开长沙，移驻衡州躲避。事后他给骆秉章复信解释说：“自六月以来，外人咎我，不应干预兵事，永顺一事竟难穷究。省中文武员弁皆知，事涉兵者，侍不得过而问焉。此语揭破，侍虽欲竭尽心血，果何益乎？是以抽掣来此。”
这件事给曾国藩以非常强烈的刺激。经过这次打击和挫折，使他愈益感到绿营兵的腐败不可用，从而更加坚定了另起炉灶、重建新军的决心。同时也使他感到，他所从事的反革命事业是异常艰难的，在他前进的道路上每走一步都会遇到障碍，而欲达到自己的目的，不仅须要战胜强大的太平天国革命者，还要排除墨守成规的所谓“文法吏”的层层阻难。要战胜这些反对派，不仅取决于内部斗争，而且决定于对太平天国军事斗争的成败。因而在自己立足未稳的时候，不想把永顺兵一事反映上去，在咸丰皇帝面前打一场毫无意义的笔墨官司，而是发愤图强，百倍努力，以求早日练成一支精锐的反革命武装，借以取代八旗和绿营等常备军的地位和作用，担负起镇压太平天国革命、支撑清王朝封建政权的任务。用他自己的话说，这叫做“好汉打脱牙和血吞”。后来他在聊天时对心腹幕僚赵烈文说：“起兵亦有激而成。初得旨为团练大臣，借居抚署，欲诛梗令数卒，全军鼓噪入署，几为所戕。因是发愤募勇万人，浸以成军。其时亦好胜而已，不意遂至今日。”当然，这不过是曾国藩事成之后的自鸣得意之词。然而也可以从中看出他的性格特点和碰壁之后的心理状态。
改革军制
早在京宦时期曾国藩就认为，绿营兵惰将骄，窳（音“宇”）败已甚，不经过一番大力裁汰和痛加训练，根本无法担负起镇压太平军的任务。当时他的建议没有被清政府采纳。回到湖南后，经过一个时期的观察和体验，对绿营兵有了进一步的认识，从而认为“居今之世，用今之兵，虽诸葛复起，未必能灭此贼”，只有改弦更张，另建新军，才有“成功之一日”。
但是未来的新军究竟采取哪种形式呢？这是曾国藩需要考虑的第一个问题。当时，清朝统治者用以镇压人民反抗的武装力量主要有兵、勇和团练三部分。兵又称额兵，是有固定编制的国家军队，其中包括八旗和绿营两部分。八旗即八旗骁骑营，又称旗营，是满洲贵族入关前建立的武装力量，共约二十五万人。绿营以执绿色旗帜得名，是满洲贵族入关以来陆续收降改编的汉族地主武装，共约六十四万人。八旗和绿营皆有兵籍，弁兵父子相承，世代为业。勇指国家临时招募的官勇，有事临时招募，事过随即遣散。这是清政府在遇有战事而兵力不足的情况下采取的一种临时措施。鸦片战争时清政府就曾招募过官勇；太平天国革命兴起后，清政府也曾募集过官勇。江南大营悍将张国梁所统带的就是勇营，穷凶极恶过于绿营；江忠源带往广西的楚勇也属于官勇的性质。团练则是散布乡镇的地主乡团武装，基本上不脱离生产，属于民兵的性质。八旗和绿营都是封建国家的常备武装，团练和官勇则是非常备武装；营兵和官勇经费出于国库，团练自咸丰初年以来基本上由民间筹资，乡绅经管。官勇不同于团练，也不同于营兵，介于二者之间而又兼有二者的特点，带有半官半民的性质。曾国藩既认为绿营兵不可用，又认为团练武装难以得心应手，遂选择了官勇的形式。
另起炉灶、重建新军的思想，曾国藩早在咸丰二年底建议张亮基将所调各县练勇“改募成军”时就很明确。他在给宝庆知府魁联的信中解释采取这一决策的原因说：“就现在之额兵练之而化为有用，诚为善策。然习气太盛，安能更铸其面目而荡涤其肠胃？恐岳王复生，半年可以教成其武艺；孔子复生，三年不能变革其恶习。故鄙见窃谓现在之兵不可练之而为劲卒，新募之勇却可练之使补额兵。救荒之说，自是敝邑与贵治急务。”
然而未来的新军究竟是什么样子，曾国藩胸中并无成熟方案，因而他在建立所谓“大团”时，仅强调“今欲改弦更张，总宜以练兵为要务”。直到这年夏天，江忠源在给清廷的奏折中表示欲采取兵勇混用的办法（从各地征调绿营六千人，从湖南招募官勇四千人，组成一支万人之师）战胜太平军时，曾国藩才致信江忠源等人，指出绿营兵制的根本弊病，将其致败的主要原因归咎于调遣之法不善，提出改革军制的主张。他说，“今日兵事最堪痛哭者，莫大于‘败不相救’四字”，“虽此军大败奔北，流血成渊，彼军袖手而旁观，哆口而微笑”。他认为，造成这种积弊的主要原因是由于调遣成法不善。曾国藩指出，“当其调兵之时，东抽一百，西拨五十，或此兵而管以彼弁，或楚弁而辖以黔镇”，“卒与卒不习，将与将不和”，遂造成“胜则相忌，败不相救”的风气。既然“危急之际无人救应，谁肯向前独履危地，出万死之域以博他人之一微笑？是以相率为巧，近营则避匿不出，临阵则狂奔不止，以期于终身不见贼面而后快”。他认为，太平军所以无往不胜，不仅由于其纪律严明，深得民心，还由于它内部团结，誓同生死，“若非练兵万人，合成一心”，断难制此强敌之死命。因而，这支军队必须“呼吸相顾，痛痒相关，赴火同行，蹈汤同往，胜则举杯酒以让功，败则出死力以相救。贼有誓不相弃之死党，吾官兵亦有誓不相弃之死党”。只有这样，“庶可血战一二次，渐新吾民之耳目而夺逆贼之魂魄”。可以说这是曾国藩对所建新军政治素质的要求，他制定军制改革的各项措施都是以此为出发点的。
曾国藩对绿营军制的改革主要表现在两个方面：一是以募兵制代替世兵制，二是将“兵为国有”变为“兵为将有”。前面已经讲过，绿营兵实行世兵制度，基本上是父子相承，当兵为业，绿营子弟成年后即可随营习武，称为随军余丁，一旦营中出现空额，便可补缺吃粮。所以，绿营一般不从外面招募，只有在余丁不足时才自外募兵补缺。湘军属官勇性质，数额不定，全部招募，且随着形势的变化和需要的不同随时增减或裁撤。曾国藩为了不使湘军染上绿营的种种恶习，首先要求湘军在组织上与绿营彻底割断联系。他认为，绿营的腐败习气已“深入膏肓，牢不可破”，只有“尽募新勇，不杂一卒，不滥收一弁”，“特开生面，赤地新立”，才能“扫除陈迹”，练成劲旅。他还说：“国藩数年来痛恨军营习气，武弁自守备以上无不丧尽天良，故决不用营兵，不用镇将。”曾国藩规定，湘军士兵主要招募健壮、朴实的山乡农民，不仅不收营兵，也不要集镇码头上油头滑面之人，更不要曾在衙门当过差的书役、胥吏之类。湘军的军官，主要招聘绅士、文生充任，对政治、思想和身体条件都有一定要求。曾国藩在给朋友的信中提出四条标准，请人为他物色湘军军官。他说：“带勇之人，第一要才堪治民，第二要不怕死，第三要不急急名利，第四要耐受辛苦。治民之才不外公、明、勤三字，不公不明则诸勇必不悦服，不勤则营务细巨皆废弛不治，故第一要务在此。不怕死则临阵当先，士卒乃可效命，故次之。为名利而出者，保举稍迟则怨，稍不如意再怨，与同辈争薪水，与士兵争毫厘，故又次之。身体羸弱过劳则病，精神乏短者久用则散，故又次之。”又说：“四者似过于求备，而苟阙其一则乃不可以带勇。”“大抵有忠义血性，则四者相从以俱至；无忠义血性，则貌似四者终不可恃。”可见条件虽多，关键还是政治思想表现。曾国藩选拔军官始终坚持政治标准第一的原则，只要被他认为“有忠义血性”者，不论营弁、营兵、书生，都可录用。后来成为湘军名将的塔齐布、周凤山、鲍超、杨载福都是营弁或营兵出身。至于其他条件，则各有高低差等，更可以在战争中磨炼和培养了。
为了加强对士兵的控制和湘军内部的团结，曾国藩又在两个方面做出了努力：一是加强各级军官的权力，下级绝对服从上级，士兵绝对服从军官；二是募勇的地域原则和私人情谊至上的原则。曾国藩规定，湘军的招募，统领由大帅挑选，营官由统领挑选，哨官由营官挑选，什长由哨官挑选，士兵由什长挑选。曾国藩认为，“口粮虽出自公款，而勇丁感营官挑选之恩，皆若受其私惠，平日既有恩谊相孚，临阵自能患难相顾”。曾国藩还认为，一营一军之中若募有两地的士兵，必然造成地区之间的不和。因而不如干脆只用一地之人，可以利用地域观念和同乡感情加强团结。所以湘军一般只在湖南募兵，又主要在长沙、宝庆二府招募，尤以湘乡最多。湘军不论在何地作战，凡添新勇，都要回湖南招募。湘军军官外省人间或有之，而士兵则外省人极少——只是到了后期，才偶尔募集少量外省士兵，以补充兵源的不足。为防止士兵逃跑，曾国藩还规定，凡应募者必须取具保结，并将其府县里居及父母、兄弟、妻、子姓名详细登记入册，这样士兵就不敢逃离营伍；即使有逃跑者，亦可按籍捉拿归案。对于湘军内部的关系，曾国藩规定：一军之权全付统领，大帅不为遥制；一营之权全付营官，统领不为遥制。“如封建之各君其国，庶节节维系，无涣散之虞。”为了保持湘军从大帅到营、哨官的垂直指挥系统，曾国藩规定，只看事寄轻重，不管官位尊卑。即使士兵已保至提、镇大员，而营官仅止从九品，士卒也要绝对服从于营官。营官之于统领亦然。
这样，士卒由私人关系转相招引，军官则凭个人好恶任免，官与官之间也靠同乡、同事、师生、朋友等私人感情相维系，遂形成湘军各树一帜、各护其长的风气，久而久之，逐渐变成一支军阀武装。
募集和训练官勇镇压农民起义，并不是曾国藩的发明。仅就曾国藩集团来说，除前面提到的江忠源外，胡林翼早在道光末年在贵州任知府时就已开始募勇镇压境内各族人民的反抗活动。但他们都没有触及军制的改革，其饷源也没有很好地解决，所以他们招募的官勇无论在数量上和质量上都不足以独当一面，也从未改变作为绿营兵辅助力量的地位。曾国藩前后用了几年的时间，对绿营、八旗、团练、官勇以及历代兵制都作过精心研究，对太平军也有所了解，他取长补短，根据当时的各种条件进行了军制改革，从而把官勇由辅助性的武装力量变成为独立的、自成体系的新式军队。这正是曾国藩比江忠源、胡林翼诸人高明的地方，他之所以成为湘、淮军集团的领袖并不是偶然的。
对于兵勇的训练，曾国藩一开始就比较重视。曾国藩初到长沙时曾训练过三营湘勇，其后在镇压湖南各地会党起义中甚感得力。而派往江西的一千湘勇则有两营从未进行过训练，因而伤亡惨重，不堪一战。正反两面的经验使曾国藩的认识又大大提高了一步，进而增强了练兵的信心和决心。他在给骆秉章的信中说：“不练之兵断不可用。侍今年在省练过三营，虽不足当大寇，然犹可以一战。六月援江之役，新集之卒未经一日训练，在江不得力，至今懊悔。”他在批札中也一再强调，乡勇不难于招募而难于训练，并详列训练的内容和要求，令部下遵行。曾国藩把训练的内容和要求分为两部分，一称为“训”，一称为“练”。“训”侧重于政治与思想方面，“练”侧重于军事与技艺方面。他说：“新募之勇全在立营时认真训练。训有二，训打仗之法，训做人之道。训打仗则专尚严明，须令临阵之际，兵勇畏主将之法令甚于畏贼之炮子；训做人之道则全要肫诚，如父母教子，有殷殷望其成立之意，庶人人易于感动。练有二，练队伍，练技艺。练技艺则欲一人足御数人，练队伍则欲数百人如一人。”训做人之道又包含两方面的内容，一是纪律教育，一是封建伦理教育。湘军初立时查禁甚严，尤其严禁吸食鸦片。因为军队要求士卒体魄健壮，而鸦片不仅使士卒搞坏身体，而且容易学会偷盗、抢劫，破坏纪律。所以严禁吸食鸦片一条明文载于营规，各军皆然，而其他诸禁则各军略有不同。据说老湘营查禁最多，左宗棠禁止赌博，王錱则连饮酒都禁止，空闲时间只准练习武艺，优者给予奖励。
曾国藩对湘军进行纪律教育，主要是出于政治斗争的需要，目的在于使湘军不至像清朝的其他军队那样漫无纪律，肆意抢劫，以改变政治上的不利地位。当时太平军纪律严明，秋毫无犯，所到之处深受群众欢迎。而清军，尤其潮勇则奸淫掳掠，无所不为，受到社会上各阶层的反对和谴责，使清政府在舆论上处于很不利的地位。为了挽回人心，改变政治上的不利局面，把群众从太平军方面争取过来，曾国藩从一开始就很注意对湘军进行纪律教育，其主要方式是将官兵集合起来，由他亲自训话。他在给张亮基的信中说：“练勇之举亦非有他，只以官兵在乡不无骚扰，而去岁潮勇有奸淫掳掠之事，民间倡为谣言，反谓兵勇不如贼匪安静。国藩痛恨斯言，恐人心一去不可挽回，誓欲练成一旅，秋毫无犯，以挽民心而塞民口。”为达此目的，他“每逢三、八操演，集诸勇而教之，反复开说至千百语，但令其无扰百姓”；以至“每次与诸弁兵讲说，至一时数刻之久，虽不敢云说法点顽石之头，亦诚欲苦口滴杜鹃之血”。“盖欲感动一二，冀其不扰百姓，以雪兵勇不如贼匪之耻，而稍变武弁漫无纪律之态”。由此也可以看出曾国藩的政治眼光和对本阶级的忠诚是高于一般清朝官员的。同时，这样带着明确的目的对军队进行政治和纪律教育，也是历来所没有的，可以说是曾国藩的一项发明创造。
曾国藩的军事训练主要可归结为操、演、巡、点四个方面，操即上操，演即演习诸般武艺和阵法，巡即巡逻、放哨、站墙子，点即点名。曾国藩规定，湘军士兵每天在黎明和傍晚各上操一次，中午和熄灯前各点名一次，五更三点与掌灯后各派三成队伍站墙子一次。他还规定，每晚派一成队伍站墙子，一人唱更，如离敌很近则加倍。关于武艺、阵法的演习，对新勇规定尤细。新募之勇每十日中逢三、六、九日上午演武艺、阵法，逢一、四、七日上午演抬枪、鸟枪打靶与阵法，逢二、八日上午练习跑跳，逢五、十上午演连环枪法，而每天下午则演习拳、棒、刀、矛等。阵法主要练戚继光的鸳鸯阵、三才阵，要求士兵能整齐熟练，变化自如。技艺操练则要求士兵能纵身上一丈高之屋、越一丈宽之壕，抛火球于二十丈之外。新勇与旧勇仅演武内容有些不同，日常操点、巡哨则完全一样，除打仗外，天天如此，不得间断。与八旗、绿营各营比较，除训练抓得很紧外，每天两次点名、站墙子也是湘军的特点。点名是为了防止士卒随便离营，士卒离营则部队减员，降低战斗力。站墙子就是守卫营墙，实际上属于班哨、排哨之类，早晚派三成队伍站墙子则是为了防止敌人的突然袭击，因每日早晚是最容易受到敌人袭击的时刻，若有三分之一的人处于戒备状态，一旦受到袭击就可以暂时顶住，使其余的人有足够的时间做好准备，投入战斗，不至于一触即溃。这都是接受以往教训，提高军队战斗力的措施。
同时，曾国藩对湘军的行军扎营亦有具体规定，择地、布局详加指划，挑沟、筑墙皆有尺寸，每天一驻下来必须大修工事，在工事做好之前，既不准休息，也不准与敌人开仗。所以湘军行军异常缓慢，简直如蜗牛爬行，每日迟行早住，行程不过三十里，用于筑垒的时间竟与走路的时间一样长。
湘军的编制以营为基本单位，营以下为哨，哨以下陆师为队，水师为船，马队为棚。起初湘军仅有陆勇数千人，营以上不再设官，各营直辖于曾国藩。当时曾有人提议设总统管辖各营，曾国藩没有采纳。后来湘军人数渐众，遂于营官之上设置统领、分统等官统辖各营。统领之制始于咸丰四年二月湘军东征之初，曾国藩率水陆一万七千人自湖南出发往攻湖北的太平军。为便于统辖，遂设水、陆营务处各一人，水路为褚汝航，陆路为朱孙诒。他认为，历来军营皆有统带大员，“或称翼长，或称统领，或但称营务处”，名称不同，其实质并无区别。所以他有时称其为总统，有时称之为总提调，尚无固定名称。长沙整军和城陵矶大战之后，水师仅存杨载福、彭玉麟、李孟群三支，陆师只有塔齐布、罗泽南二部。咸丰四年底五年初李孟群离开水师，湘军水陆大将就只有塔、罗、杨、彭四人了，统领的名称大约是在此前后开始使用的。咸丰六年下半年后湘军人数迅速扩充，统领也日益多起来。至咸丰末年，湘军人数愈众，李续宜、多隆阿、鲍超、曾国荃皆领万人左右，为便于统辖，遂又于统领之下设置分统以管辖各营。分统之制始创于胡林翼。他首先在李续宜部设置分统，时间在咸丰十年。同治元年（1862）曾国藩把它推广于曾国荃、鲍超两军，始称分统。设立分统之初，李续宜部不足万人，分为四军，李续宜自统一军，另设蒋凝学、萧庆衍、成大吉三分统，各领二至三千人。鲍超的霆营约十五营九千人，分为三军，鲍超自领一军，另设娄云庆、宋国永两分统，每人约领五营三千人。曾国荃部约三十营一万五千人，分为六军，曾国荃自领一军，另设彭毓橘、萧孚泗、张诗日、刘连捷、易良虎五分统，每人约统五营二千五百人。后吉字营增至三万五千人，霆营增至约一万九千人，分统人数或所统兵员亦相应增加。
湘军陆师营制最初为每营三百六十人，大约是咸丰二年朱孙诒奉程矞采之命募集湘勇时与刘蓉、罗泽南、王錱等人一起制定的。曾国藩移驻衡州后，咸丰四年十二月又与罗泽南、刘蓉、郭嵩焘、曾国葆改定营制，每营加长夫一百二十人、抬枪十六人，成五百人之数。但这次所定营制未收入曾国藩全集，在别处也未发现原文。咸丰八年曾国藩再出后，又于咸丰十年参照左宗棠、王錱、胡林翼、李续宜诸家营制，同李榕一起详定营制，对各项章程规定得甚为详细完整。这个核定过的营制后来收入曾国藩全集中，谈湘军营制者皆以此为本。水师营制大约是咸丰三年十月改定陆师营制时制定的，亦未收入曾国藩全集，而被王定安转录入《湘军记》一书中。据罗尔纲先生考证，曾在咸丰五年至六年间作过个别修正。马队营制，据罗尔纲先生考证最初制定于咸丰九年，同治四年或五年，曾国藩曾在镇压捻军期间作过修改，改定后的马队章程亦被收入曾国藩全集中。
湘军饷章亦与绿营不同。曾国藩认为，绿营兵所以缺乏训练、战斗力甚低，一是差役太重，二是坐饷太低。绿营兵平时每月饷银马兵二两，战兵一两五钱，守兵一两。清朝初年尚可维持生活，及至道光、咸丰年间已不够五口之家食用，因而不得不出营做小贩谋生，再加上经常离营供差，就很少有时间在营训练了。曾国藩为了使士兵为他卖命，除每营增加长夫一百二十人以减轻士兵的劳役负担外，还提高了士兵平日粮饷供应标准。湘军饷章是咸丰三年十月改定营制时制定的。当时往来于湖南的各路兵勇很多，饷章各有不同，张国梁勇营每人每月饷银五两四钱，江忠源楚勇每人每月饷银四两五钱。咸丰三年夏，内阁学士、帮办军务胜保曾奏请招募陆勇，每月饷银四两五钱，经户部议准，以后江南大营募勇即照此办理，定为奏销常例。曾国藩参考这几种饷章，尤其江忠源、张国梁勇营饷章，量为酌减，制定了湘军粮饷章程。规定陆师营官每月薪水银五十两，办公银一百五十两，夫价银六十两，共计二百六十两，凡帮办、书记、医生、工匠薪水及置办旗帜、号补各费用统统包括在内。其他各弁兵每月饷银为哨官九两，哨长六两，什长四两八钱，亲兵护勇四两五钱，伙勇三两三钱，长夫三两。水师兵饷营官与陆师营官同，头篙、舵工与哨长同，舱长与什长同，唯哨官薪水为陆师两倍，每月银十八两。总计湘军饷用，大约平均每人每月需银六两。曾国藩为防止各军统领多设官员、长夫，冒领军饷，特在饷章中规定，凡统带千人者月支饷银不得超过五千八百两，统带万人者不得超过五万八千两。
湘军饷章对弁兵薪饷的规定是相当优厚的，尤其是营官和统领，连曾国藩都不能不承认“章程本过于丰厚”。统计其各项收入，营官每月为二百六十两，分统、统领带兵三千以上者三百九十两，五千以上者五百二十两，万人以上者六百五十两。故王闿运说：“将五百人则岁入三千，统万人岁入六万金，尤廉将也。”湘军将领除多隆阿一人外，“人人足于财，十万以上赀殆百数”。于是，“将士愈饶乐，争求从军”。这固然调动了湖南农民，尤其绅士、文生的从军积极性，但同时也为日后筹饷带来困难。为解决这个矛盾，湘军采取发半饷的办法，一般只发五成饷，欠饷数月以至半年成为普遍现象，久而久之，形成风气，士兵亦习以为常。为防止士兵离营，甚至有意拖欠军饷，或扣下大部分饷银存入公所，等士卒遣散或假归时进行核算，酌发部分现银以充川资，其余部分由粮台发一印票，至湖南后路粮台付清。若士兵擅自离营，欠饷、存饷即被没收，不再发给。这样，士兵苦无川资，又恋于饷银，也就不会轻易离营了。同时，士兵一旦假归或遣散回家，就能领到一大笔银两，对未曾应募入伍的人也可以产生巨大的诱惑力。这样，曾国藩就达到了一箭三雕的目的：既减轻了筹饷的困难，又防止了士兵的逃跑，还能引诱大批农民和书生踊跃应募。
编练成军
湘军分为水、陆两部。陆师的建立最早应从咸丰三年算起。这年夏天曾国藩同江忠源商定练勇万人的计划，初步确定了湘军的规模。曾国藩打算编练成军之后，概交江忠源指挥，以为镇压太平天国革命的军事资本。这年秋天，又奉创办水师之命，遂改原定集练陆师万人的计划为水、陆各五千人，营制亦改为每营五百人。然而这时湘军陆师的实际人数已大大超过五千人，因而不得不对现有各营进行缩编。曾国藩提出，邹寿章、周凤山、储玫躬、曾国葆和新化勇各为一营五百人不变，塔齐布、罗泽南各将两营七百人缩编为一营五百人，王錱六营约二千二百人缩编为三营一千五百人，其余遣散。王錱不服，认为这是曾国藩借故打击自己，并诉之于骆秉章。骆秉章认为王錱所募新勇可用，无须遣散。从此王錱率营脱离曾国藩，投靠骆秉章的门下。又因罗泽南年岁（四十六岁）较大，不愿再次远征，而湘南地区仍有天地会的活动，亦须留有一定兵力，遂将罗泽南部湘军留驻衡州。这样，随同曾国藩出征的陆师就仅有六营三千人了。恰在这时，平江知县林源恩投书曾国藩，愿充一营官。曾国藩令其募平江勇五百，编为一营；另外又令朱孙诒、邹世琦、杨名声各募一营，凑成十营五千人之数，使湘军陆师初具规模。
湘军水师的筹建晚于陆师，它是在曾国藩移驻衡州后开始的。清朝绿营水师分为外海和内江两部分，外海水师驻广东、福建沿海，内江水师驻长江沿岸各要隘。至咸丰初年，外海水师尚存，而内江水师久已废弛，两湖三江皆无炮无船；偶有少数炮船，亦不过在民船上装炮而已，实不能作战。自咸丰二年十一月太平军在益阳、岳州得民船万只，建立水师之后，千船百舸，蔽江而下，千里长江完全控制在太平军手中。翌年太平军围攻南昌之初，曾有个名叫黄经的御史上奏清廷，请饬湖南、湖北、四川造船练兵，从水上攻击太平军。咸丰皇帝遂批令两湖、四川照奏执行。命令发到湖南后，骆秉章甚感为难，便以力所不及为由将其搁置起来，不予照办。及至郭嵩焘赴援南昌，见太平军驻兵船上，进退自如，往来迅速，感到欲与太平军争雄，必先建水师，夺回舟楫之利，遂向江忠源提出筹建炮船的建议。江忠源对此极为重视，马上上奏清廷，请饬两湖、四川造船，并由广东购洋炮千尊，以装备炮船，兴建水师。清廷依议，这年八月再次命令两湖、四川制造战船，并令广东购洋炮五百尊交湖广、四川，安置船上，顺流而下，与下游水师夹击太平军。命令传到湖南后，曾国藩便与骆秉章商定，以筹建水师自任。这是湘军筹建水师之始。开始一个阶段，既缺资金，又无人才，甚至连适合造船的木材也找不到，只好购买钓钩、小之类民船加工改造，暂充炮船。这年十月清廷令曾国藩赴援湖北，曾国藩以水勇未练、炮船不齐予以拒绝，并乘机奏请提取存放长沙的广东解往江南大营的饷银四万两，以为购炮造船的经费。曾国藩得到这批银子后，造船的速度便大大加快了。
由于湖南无人懂得炮船船式，工匠亦不会造船技术，曾国藩在造船过程中曾遇到过很大困难。最初制造大筏以压风浪，后又仿端午竞渡之舟制造战船，结果均告失败。后来，岳州水师守备成名标、广西同知褚汝航来到衡州，才使曾国藩懂得拖罟、快蟹、长龙诸船式。这时在广西购置的大批木材也运到了，曾国藩遂于衡州设总厂，湘潭设分厂，由成名标、褚汝航分任监督，召集大批工匠，日夜兴工，赶造战船。在拖罟、快蟹、长龙各船即将修造完工的时候，曾国藩邀请黄冕前往船厂参观。黄冕曾在江南办过海防，熟悉水战船式。他建议曾国藩每营添造十只舢板船，其船身短小，轻巧灵活，便于在河湾港汊行驶，可补快蟹、长龙之不足。曾国藩接受了这个建议，即日开工，日夜赶造舢板船。曾国藩不仅在造船上精选木料，不惜工本，力求坚固耐用，而且对于炮的质量与安装亦很讲究。他认为当时中国各省铸造的大炮炮身笨重，射程很短，即如二三千斤的重炮仍不如数百斤洋炮的射程，且时常有炸裂的危险。所以曾国藩不惜重金，派人从广东购买大批洋炮，并组织人力反复研试，解决了一系列技术难题，把它安装在战船上，建成了当时中国技术最先进的内河水师。咸丰四年正月湘军船炮齐备，计有大小船只三百六十一号，其中拖罟大船一号，快蟹船四十号，长龙船五十号，舢板一百五十号，用钓钩船改造而成的战船一百二十号。同时在船上装备大小炮五百七十门，其中新购洋炮三百二十门，从广西借来一百五十门，提用本省一百门，炮重二三百斤至三千斤不等。
湘军水师的营制略同于陆军，五千人分为十营，四营募自湘潭，六营募自衡州，营官分别由褚汝航、夏銮、胡嘉垣、胡作霖、成名标、诸殿元、杨载福、彭玉麟、邹汉章、龙献深担任。水勇的募练晚于陆师，大约是与改造钓钩船同时开始的。水勇的招募也较陆军为难。湘乡人多以上船为苦，视水战为畏途。文生、绅士亦多不愿担任水师营官。招聘营官的消息传出后，士人以为延请陆师营官，纷纷应聘；而一旦知道是水师，即掉头而去，走之唯恐不速。杨载福和彭玉麟后来皆为水师名将，而初由陆师改水师时，亦曾大费口舌，经曾国藩反复开导，才稍去畏难情绪，勉强应命。杨载福字厚庵，湖南善化人，后来同治皇帝载淳为避己讳，亲为改名岳斌。杨载福出身绿营世兵家庭，自幼习骑射，成年后补缺入营当兵，咸丰二年以镇压李沅发起义和防堵太平军有功，升为宜章千总，咸丰三年秋入湘军陆师。彭玉麟字雪琴，湖南衡阳人，幼年丧父，寡母以纺纱、织布的微薄收入供其读书。彭玉麟自幼聪明，刻苦攻读，甫成年而入县学，后以家贫，另谋生计。开始在衡阳城守协副将手下充掌书记，后又为一富商在耒阳看仓库，从而学会了一些骑射技击武艺和经商本领。咸丰二年因参与镇压李沅发起义和对抗太平军保为绿营把总。但彭玉麟不愿以文生补授武职，拒不受命，由耒阳回到衡阳继续为富商代管商业，咸丰三年秋应募入湘军陆师。开始，杨载福与彭玉麟皆在曾国葆营，曾国葆以为他们才可大用，将他们推荐给曾国藩，曾国藩亦欣赏他们的才干，遂令他们招募水勇，充水师营官。当时曾国藩的水师营官除成名标、褚汝航外皆不习水战，其困难之大是可以想见的。尽管如此，曾国藩经过一番努力，毕竟还是搞起了一支内河水师，且在技术、装备上大大超过太平军。这也正是曾国藩得意的地方。
曾国藩原打算将水陆各军练好之后再上奏清廷，出省作战。不料他刚把练勇万人的计划告诉江忠源，就被江忠源和盘奏出，结果船炮未齐就招来咸丰皇帝的一连串征调谕旨。第一次是咸丰三年十月，太平天国西征军进至蕲、黄一带，武汉危急，清廷接连下令曾国藩率炮船增援湖北；第二次是咸丰三年十一月中下旬，太平军大将胡以晃进攻庐州，清廷令曾国藩督带船炮兵勇速赴安徽救援；第三次是咸丰四年正月，太平军袭破清军黄州大营，清廷再次催促曾国藩赴援武汉。曾国藩深知太平军兵多将广，训练有素，绝非一般农民起义队伍可比，没有一支劲旅是不能贸然去碰的；况且与太平军争雄首先是在水上而不在陆上，没有一支得力的炮船和熟练的水勇，是无法与拥有千船百舸的太平军相抗衡的，甚至连兵力调动和粮饷供应都会发生困难。因而打定主意，船要精工良木，坚固耐用；炮要不惜重金，全购洋炮，船炮不齐，决不出征。他在给朋友的信中说，“剑戟不利不可以断割，毛羽不丰不可以高飞”。“此次募勇成军以出”，“庶与此剧贼一决死战，断不敢招集乌合，仓卒成行，又蹈六月援江之故辙。虽蒙糜饷之讥、获逗留之咎，亦不敢辞”，一时形成“千呼万唤不出来”的局面。
其实清廷催曾国藩赴援外省，不过以湖南乡勇可用，令其前去配合绿营作战，以解决兵力不足的困难，这也是过去常有的事，决非要他充当主力，独力担负与太平军作战的重任。所以当曾国藩在奏折中处处以四省合防为词，声言“事势所在，关系至重，有不能草草一出者”时，咸丰皇帝即以讥讽的口吻在奏折上批道：“今观汝奏，直以数省军务一身克当，试问汝之才力能乎否乎？平日漫自矜诩，以为无出己之右者，及至临事，果能尽符其言甚好，若稍涉张皇，岂不贻笑于天下！”可见咸丰皇帝对曾国藩是很不理解的，在他看来不过是无知书生的好高骛远和自我吹嘘，并非深思熟虑的举动，因而咸丰皇帝再次促其“赶紧赴援”，并以严厉的口吻对曾国藩说：“汝能自担重任，迥非畏葸者比，言既出诸汝口，必须尽如所言，办与朕看。”曾国藩接到谕旨后仍然拒绝出征，他在奏折中陈述船炮未备、兵勇不齐的情况之后，激昂慷慨地表示：“臣自维才智浅薄，唯有愚诚不敢避死而已，至于成败利钝，一无可恃。皇上若遽责臣以成效，则臣惶悚无地，与其将来毫无功绩受大言欺君之罪，不如此时据实陈明受畏葸不前之罪。”并进一步倾诉说：“臣不娴武事，既不能在籍终制贻讥于士林，又复以大言偾事贻笑于天下，臣亦何颜自立于天地之间乎！中夜焦思，但有痛哭而已。伏乞圣慈垂鉴，怜臣之进退两难，诫臣以敬慎，不遽责臣以成效。臣自当殚尽血诚，断不敢妄自矜诩，亦不敢稍涉退缩。”咸丰皇帝看了奏折，深为曾国藩的一片“血诚”所感动，从此不再催其赴援外省，并以“朱批”安慰他说：“成败利钝固不可逆睹，然汝之心可质天日，非独朕知。”曾国藩“闻命感激，至于泣下”，更以十倍的努力加紧了出征的准备。多少年后，他还对此念念不忘，并专门请人从京中抄回原奏（因底稿在九江水战中座船被俘而丢失），与咸丰皇帝的朱谕一起保存，“同志恩遇”。
曾国藩为坚持船炮不齐不出省作战的原则，不仅拒绝了清朝最高统治者咸丰皇帝的命令，也摈弃了师友的私人情谊。当湖北第一次危急时，他于咸丰谕旨之先已接到湖广总督吴文镕求其急速援救的函札。吴文镕是曾国藩的老师，长期以来二人交谊甚厚，无论公理私情他都是应该迅速赴援的。但是曾国藩接到吴文镕的信函后仍不想赴援，只是由于王錱誓报江西谢邦翰等人被歼之仇，积极要求赴援湖北，才不得不勉强同意；后来一接到“武昌解严，暂缓赴鄂”的谕旨，便乘机取消了王錱赴鄂之行。不久，太平军西征部队回师西上，吴文镕接连发信向曾国藩求援，曾国藩皆复函拒绝，并反复说明不能草草轻发的道理。吴文镕终于被其说服，虽自料必死，仍令曾国藩万勿草草而出。当太平军进攻庐州时，江忠源危在旦夕，曾国藩亦拒绝出征，仅派刘长佑和江忠璿率一千新勇由陆路赴援。结果江忠源、吴文镕二人先后兵败自杀。这对曾国藩是个沉重的打击。江忠源在曾国藩诸门生中办团练最早，最有实战经验，同时也任职最高，最得清政府的信任。曾国藩曾打算练勇万人概交江忠源指挥，完成镇压太平天国革命的重任，而自己只在后方办理练兵筹饷等事。不料未待出征而江忠源毙命，这无异于砍去曾国藩的左膀右臂，使他明知自己不善带兵而又不得不亲自出征。吴文镕的死对曾国藩打击更甚，吴文镕身任湖广总督，既是曾国藩的老师，又是他强有力的后台。若吴文镕仍在，处处有人帮他说话，或许不至陷入后来那样的政治困境。可见，曾国藩坚持不轻易出省作战的方针虽然使他赢得了充分的准备时间，为其后的军事胜利打下了基础，但同时也为此付出了巨大的代价。
- 徐广缙此前已被革除两广总督之职，但仍署理着钦差大臣和湖广总督之职。
- 朱孔彰：《中兴将帅别传》，第三卷，第12页。
- 《曾文正公奏稿》，第一卷，第56页。
- 徐凌霄、徐一士：《曾胡谈荟》，《国闻周报》第六卷，第27期。
- 欧阳兆熊：《春窗梦呓·英雄必无理学气》，《小说月报》第二年第8期。《曾文正公文集》，第三卷，第70页。
- 《曾文正公手书日记》，咸丰八年九月初十日，《中兴将帅别传》，第四卷，第22页。
- 《曾文正公文集》，第四卷，第20页。
- 《曾文正公书札》，第二卷，第5页。
- 朱孔彰：《中兴将帅别传》，第一卷，第2页。
- 《曾文正公书札》，第三卷，第39页。
- 黎庶昌：《拙尊园丛稿》，第三卷，第3页。
- 《曾文正公书札》，第二卷，第16页。
- 《曾文正公书札》，第二卷，第21页。
- 曾国藩：《曾文正公全集·批牍》（以下简称《曾文正公批牍》），第一卷，第1页。
- 《曾文正公书札》，第十三卷，第1—2页。
- 《曾文正公家书》，同治元年十二月二十日。
- 《曾文正公奏稿》，第二卷，第2页。
- 《曾文正公书札》，第二卷，第5页。
- 同上，第二卷，第4页。
- 同上，第二卷，第15页。
- 同上，第二卷，第1页。
- 《曾文正公奏稿》，第二卷，第6页。
- 《曾文正公书札》，第二卷，第26—27页。
- 同上，第五卷，第42页。
- 《曾文正公奏稿》，第二卷，第2—3页。《曾文正公书札》，第二卷，第9、12、16页。
- 《曾文正公书札》，第二卷，第14页。
- 此处“添弟会”系指太平天国的拜上帝会。
- 《曾文正公奏稿》，第二卷，第2页。
- 《曾文正公奏稿》第二卷，第3—4页。
- 同上，第二卷，第3—4页。
- 夏震武：《灵峰先生集》，第四卷，第55页。
- 赵烈文：《能静居日记》，咸丰十一年八月二十一日。
- 《曾文正公书札》，第四卷，第43页。
- 同上，第二卷，第41页。
- 《曾文正公书札》，第二卷，第41页。
- 《曾文正公家书》，同治五年十二月十八日。
- 赵烈文：《能静居日记》，同治六年八月二十一日。
- 《曾文正公书札》，第三卷，第1页。
- 《曾文正公书札》，第二卷，第10页。
- 《曾文正公奏稿》，第一卷，第56页。
- 《曾文正公书札》，第四卷，第22页。
- 同上，第四卷，第22页。
- 同上，第二卷，第35页。
- 同上，第二卷，第35页。
- 同上，第二卷，第35页。
- 同上，第四卷，第2页。
- 《曾文正公书札》，第四卷，第31页。
- 同上，第三卷，第2、3页。
- 《曾文正公奏稿》，第二十八卷，第18—19页。
- 《曾国藩致邓厚甫函》，见中国社会科学院近代史研究所藏《曾国藩往来函札》。
- 《曾文正公书札》，第四卷，第3页。
- 《曾文正公批牍》，第二卷，第45页。
- 《曾文正公书札》，第二卷，第42页。
- 《曾文正公书札》，第四卷，第38、40页。
- 同上，第五卷，第11页。
- 同上，第四卷，第40页。
- 同上，第四卷，第52页。
- 罗尔纲：《湘军新志》，商务印书馆1939年版，第106—107页。
- 胡林翼：《复李希庵》，咸丰十年二月二十八日，《胡文忠公手札》，1933年长沙摹印本，第1册。胡林翼：《复李希庵》，咸丰十年五月初六日、六月初八日，《胡文忠公手札》，第4册。
- 《曾文正公家书》，同治元年四月十二日、六月十二日。赵烈文：《能静居日记》，同治二年五月二十日，同治三年六月二十三日。鲍超的霆营营制则为每营六百人（见陈昌：《霆军纪略》，上海申报馆版，第一卷，第22页）。
- 《曾文正公书札》，第三卷，第42页。郭嵩焘：《玉池老人自叙》，光绪十九年版，第5页。
- 《曾文正公手书日记》，咸丰十年九月十九日。
- 曾国藩：《曾文正公全集·杂著》（以下简称《曾文正公杂著》），第二卷，第36—44页。
- 罗尔纲：《湘军新志》，第98—99页。有关湘军水师营制的部分内容，又散见于曾国藩书札（《曾文正公书札》，第五卷，第1—10页）中。
- 《曾文正公杂著》，第三卷，第45—47页。
- 罗尔纲：《湘军新志》，第201页。咸丰后期绿营军饷愈薄。张集馨《道咸宦海见闻录》（第279页）载，“营中公费，近年益缺，各种杂出费用‘无一不摊派兵饷，是以每月每兵仅得饷三钱有零，不敷一人食用，别寻小本经纪或另有他项技艺，借资事畜’”。
- 《曾文正公奏稿》，第二十三卷，第34页。
- 王闿运：《湘军志》，岳麓合刊本，第162页。
- 《曾文正公杂著》，第二卷，第37—38页。
- 《曾文正公家书》，咸丰五年五月二十五日。
- 《曾文正公杂著》，第二卷，第39页。
- 王闿运：《湘军志》，岳麓合刊本，第163页。
- 王闿运：《湘军志》，岳麓合刊本，第166页。
- 徐宗亮：《归庐谈往录》，光绪十二年版，第一卷，第8页。
- 郭嵩焘：《玉池老人自叙》，第5页。
- 《曾文正公书札》，第四卷，第3页。
- 同上，第四卷，第4页。
- 《曾文正公奏稿》，第二卷，第20页。
- 同上，第二卷，第26、27页。
- 《曾文正公书札》，第三十二卷，第17页。
- 《曾文正公奏稿》，第二卷，第17页。
