两入幕府
恰在此时，正在贵州担任黎平知府的胡林翼向新任湖南巡抚张亮基推荐了左宗棠。张亮基接受了胡林翼的推荐，在他赴湖南上任的路上，接连三次派专人携带书信到山中请左宗棠出山入幕，极表思贤若渴之情。同时，胡林翼又致函左宗棠劝其出山：“张中丞不世奇人，虚心延访，处宾师之位，运帷幄之谋，又何嫌焉。设楚地尽沦于贼，柳家庄、梓木洞其独免乎？”经张亮基遣人备礼走请，胡林翼的积极敦促以及江忠源、郭嵩焘等人的热心劝说，加上左宗棠曾在湘江与林则徐会面时听林则徐亲口称赞张亮基是一个宽厚敏行的官员，更是出于保卫桑梓和捍卫儒家文化的需要，左宗棠终于应张亮基之邀第一次出幕。
张亮基
10月7日，左宗棠怀着补天之志攀绳索登城，进入长沙，赞襄湖南巡抚幕府。张亮基让他全权负责军事指挥。于是左宗棠便日夜调配武器和兵力，与江忠源和黄冕等人策划抗击太平军。
也就在这一次幕府生涯中，左宗棠与曾国藩首次见面。左宗棠、曾国藩均为晚清一代名臣，都为清王朝的“同治中兴”立下过汗马功劳，他们在中国近代史上有着不可替代的作用和地位。当时曾国藩回湖南本是为母亲办丧事。没想到正逢太平军横扫湖南，咸丰皇帝便命他出任帮办湖南团练大臣。曾国藩赶到长沙，到了馆舍，换过衣服，匆匆洗了把脸，就坐下来，与前来迎接的湖南巡抚张亮基及其幕宾左宗棠展开长谈。
论身份，在座的三个人中，以左宗棠最为卑微。然而谈起话来，左宗棠却成了主角。他不等张亮基开口，就主动详细介绍起长沙的防务安排。一声不吭的张亮基似乎倒成了他的跟班。而曾国藩也只有俯耳倾听的份，一时竟插不上话。
然而资历远高于左宗棠的曾国藩却并不觉得不舒服。相反，他越听，越觉得左宗棠确实名不虚传。在此次会面前，左宗棠之名对曾国藩来说已经如雷贯耳。有太多朋友向他介绍过这位“湖南诸葛亮”是如何卓绝特出。交谈之中，左宗棠之头脑清晰，气概慷慨，议论明达，言中款要，确实令曾国藩颇为叹服。
曾国藩
曾国藩虽然此时已是高居二品的官员，但一名京官要想在地方上开辟一番事业，其实并不太容易。因为他毕竟是在籍官员，而不是实任官员。官场上最现实、最势利的是“县官不如现管”，如果湖南的地方官员不大力配合他，无职无权的他其实寸步难行。因此，对这个小小举人，曾国藩极为尊重，言必称兄。不论大小事情，无不虚心请教。他相信，有这位明敏强毅的人才帮忙，他在湖南办理团练，一定会相当顺利。
曾、左二人的首次合作是十分顺利的。曾国藩总览天下大势，断定此时大清王朝的正规军不管是八旗还是绿营都已经彻底腐败，要想平定太平天国，就必须赤地立新，编练一支全新的武装。所以到长沙不久，他就上了一道后来被认为是湘军成立之标志的奏折：“今欲改弦更张，总宜以练兵为要务。臣拟现在训练章程，宜参仿前明戚继光、近人傅鼐成法。”
所谓英雄所见略同。就在曾国藩上这道著名的折子前三天，湖南巡抚张亮基也上过一道内容相似的折子，提出“委明干官绅，选募……乡勇一二千名，即由绅士管带，仿前明戚继光束伍之法行之。所费不及客兵之半，遇有缓急，较客兵尤为可恃”。由于张亮基对左宗棠的重用和几乎言听计从的信任，可以说，张亮基的折子，其实就是左宗棠的折子。这道折子证明，创立湘军的想法，其发明权不能由曾国藩独有，起码应该说是曾、左二人共享的。
除此之外，此二人还在另一个问题上不谋而合，那就是要加强湖南防卫，应该从扫清湖南境内的土匪入手。这样的话，如果太平军再次进入湖南，就不会再得到本省土匪的呼应。
两人同心，其利断金。更何况是曾、左二人呢！曾、左二人计议已定，具体事务交由曾国藩来操作，而左宗棠则在调人用兵和办公经费方面多方协助。曾国藩初涉军事领域，两眼漆黑，幸亏左宗棠向他推荐了塔齐布作为帮手。塔齐步为人忠勇，做事负责，后来成为湘军一员名将，对曾国藩帮助极大。对于左宗棠所做的这些，曾国藩十分感激。在这段时间里，曾、左二人往来信函极多，曾国藩探讨军务的信件干脆不再寄给巡抚张亮基，而是直接写给左宗棠，对左宗棠的称呼也从客气的“尊兄”变成了亲切的“仁弟”，这显示出两人关系的日益亲密。
湘军
太平军在长沙城下屡屡受挫后，便计划放弃长沙城，绕城而走继续北上。于是，太平军夜渡湘江，随后又攻占了岳州。太平军北上之后，长沙之围自然解除，左宗棠决定继续协助张亮基专心整顿本省治安。张亮基曾说，他只有三个人可以完全依靠，其中就包括左宗棠。左宗棠因功，得旨以知县用，并加同知衔。在清廷将张亮基升调代理湖广总督后，左宗棠选择随张亮基离开长沙，赴武昌湖广总督衙门，仍做张亮基的幕僚，助张亮基筹划湖广地区的军事并整顿当地的吏治。
骆秉章调任湖南巡抚后，因左宗棠此前谋划有功，请旨将他以同知直隶州选用。左宗棠大力推辞，因而未获官职。左宗棠拒绝就任的原因有很多，也许他认为以自己的能力去就任那个职务颇有些大材小用了。毕竟，左宗棠总爱自比“今亮”，认为自己就是具有经天纬地之才的当世诸葛亮。在张亮基奉调补山东巡抚后，左宗棠辞归湖南，归居湘阴县东山白水洞。左宗棠与张亮基私交甚笃，在同治十年张亮基病故后，左宗棠特为其作《云贵总督张公墓志铭》。
骆秉章
骆秉章听说左宗棠回到家乡，派人送信给他，请他出山，但是左宗棠坚持辞谢不出。
不过出乎左宗棠意料的是太平天国的西征大军进兵异常神速，锐不可当。10月15日，就在左宗棠离开湖北仅九天，石祥祯部太平军就一举攻克了曾经由左宗棠设下重防的田家镇，打开了进军湖北的门户。10月20日，太平军先后攻占汉口、汉阳。次年2月12日，太平军又在黄州大败新任湖广总督吴文镕所率清军。四天后，太平军又一次占领汉口、汉阳。紧接着，石祥祯率领太平军由湖北挺入湖南。两湖督抚大员江忠源、吴文镕等先后战死，湖广震动。
当时，左宗棠居住在白水洞，从湘阴县城逃出的群众，告之太平军扬言要进山搜捕左宗棠及其家人。得知消息后，左宗棠将其家人送往湘潭辰山。太平军随后便攻占湘潭，与左宗棠带左夫人一行离开只相差了两个小时。左宗棠事后得知，深感万幸。
太平军的攻势越发地猛烈了。从2月27日至3月11日期间的十三天中，太平军连续攻克岳州、湘阴、靖港、宁乡等地，湘军只能退保长沙。之后太平军进逼靖港。这时，长沙城的上下游几十里处，到处都有太平军。城中官民惴惴不安。骆秉章此时第三次派使者催促左宗棠出山。正是缘于死里逃生的侥幸，又加上骆秉章再三敦促再出，左宗棠感到时事更加棘手，一旦太平军攻入省城，后果不堪设想，于是不得已又一次进入湘幕。左宗棠此番再入湘幕，面对的是太平军大兵压境的危急局势。
在此之前，当太平军由湖北入湖南之时，曾国藩已在衡州编成湘军陆师十五营、水师十营，实现了张亮基、左宗棠等人于湖南创设由绅士统领的军队之初衷。2月25日，曾国藩督率湘军自衡州出动，迎击太平军，并发布了著名的《讨粤匪檄》。
在《讨粤匪檄》里，曾国藩强调太平天国“荼毒生灵数百余万，蹂躏州县五千余里”，让“中国数千年礼义人伦诗书典则，一旦扫地荡尽”，这是“开辟以来名教之奇变，我孔子、孟子之所痛哭于九原”，“鬼神所共愤怒”。接着又号召普天下“凡读书识字者，又乌可袖手安坐，不思一为之所也”！因为曾国藩站在了时代道德的制高点，所以成功地动员了广大的知识分子群体投身到了消灭太平军的斗争中，为日后的胜利打下了坚实的基础。
虽然太平军此前一度接连攻占了岳州、湘阴、靖港和宁乡等地，但还是由于后继不足，放弃了这些新占领的地方，撤回到了湖北。不过，太平军石祥祯部在与林绍璋部在湖北会合后，又重整旗鼓杀向湖南。他们一路南进，连克岳州、靖港等地。在太平军的攻势面前，湘军溃不成军，曾国藩也狼狈地撤回长沙。
由于骆秉章和左宗棠早有准备，因而长沙的防守极为严密，太平军诸将领商议之后决定留下一部扼守长沙北面的靖港，而林绍璋则率主力绕道宁乡直扑长沙西南的湘潭，两地相呼应，以成南北合围长沙之势。
4月24日，太平军按照计划成功攻占湘潭。曾国藩、骆秉章、左宗棠等人连忙聚在一起商讨对策。左宗棠审时度势提出了以湘军主力南攻湘潭而暂不北取靖港的建议。曾国藩听取了他的建议，派遣猛将塔齐布统领湘军陆师，褚汝航和彭玉麟率湘军水师赶往湘潭，水陆并进以夹击太平军。
曾国藩原本准备也动身前往湘潭，却在临行前改变了主意。他没有按预先的计划行事，而是亲率湘军主力进攻驻扎于靖港的太平军。曾国藩对这一战寄予极大希望，以为自己费尽心血打造出的这支家乡军队肯定会旗开得胜。不料靖港的太平军不仅兵力雄厚，而且早就有了准备，设下圈套专等曾国藩中计。
湘军水师临近靖港时，水急风紧，将湘军的战船全都吹到了太平军的兵营前面，想退都退不回来，太平军的大炮，猛烈轰击，结果，这些战船乱成一团，纷纷起火，很快，五营水师全军覆没。
曾国藩不肯放弃，又命令步兵进攻，可湘军步兵刚刚越过浮桥，就遭到太平军的迎头痛击。水师战败的阴影笼罩着步兵，他们早就心无斗志，掉头便跑。由于拥挤，连浮桥都被踩塌了，许多士兵被踩伤、踩死，或者掉进水中溺亡。曾国藩见此惨状，连忙竖起一面大旗，上面大书：“过旗者斩！”自己还仗剑站在旁边，连砍数名溃卒。可是，湘军依旧兵败如山倒，眼前的现实令满怀希望而来的曾国藩实在无法接受，曾国藩在沮丧羞愤之下，跳入湘江投水自尽，所幸被随从章寿麟救起。回船以后，曾国藩仍然寻找机会自杀，其志仍在必死。
湖南大小地方官员闻此消息，无不幸灾乐祸，唯有左宗棠闻讯立即从长沙缒城而出，赶到湘江船上去看望曾国藩。尽管他对曾国藩的行为有一些意见，但他很清楚，像曾国藩这样有一片血诚、肯担重任的高官大吏天下无二，这支新练成的湘军已经是大清王朝为数不多的希望。此时长沙的形势危急异常，要想改变这种情况，全靠曾国藩的湘军。为了打造这支保卫桑梓的武装，一年多来，已经由全省百姓付出了很多财力物力！如今，一旦曾国藩撒手西去，湘军的结果可想而知，湖南已经为湘军所作的巨大付出也就全部打了水漂，接下来，在太平军的南下攻势面前，已经没有防御力量的湖南，下场也就不难想象了。曾国藩的生命安危已经关乎天下大局。所以，在曾国藩最需要支持的时候，他毫不犹豫地挺身而出。
此时的曾国藩很是狼狈。他的衣服上沾染泥沙，痕迹犹在。左宗棠见状，责备曾国藩“事尚可为，速死非义”。曾国藩深为没有听从左宗棠的计策而懊恼不已，他尴尬羞愧，只能闭目不语。等左宗棠说够了，才睁开眼睛，让人拿来纸，写出所剩军火的数量，请左宗棠帮他查点一下。
幸亏此时湘潭大捷的消息传来，另一路湘军终于取得了大胜。塔齐布率部攻打湘潭，获得大捷。湘军水师到来后，又水陆夹击，将太平军船只焚烧殆尽，终于攻克湘潭，累计歼灭太平军一万多人。太平军被迫北撤。这场胜利是太平军兴以来清军所取得的最大一次胜利，其光芒足以掩过靖港大败。湘军于5月1日获胜的消息传来时，曾国藩转悲为喜，从床上跳了下来。曾国藩、骆秉章、左宗棠在兴奋之余，又想一举把太平军逐出湖南。入湘的太平军也因湘潭战败，主动退守岳州，由进攻转入防御。
尽管左宗棠当面对曾国藩进行了丝毫不留情面的指责，但实际上却做了大量维护曾国藩的工作。靖港惨败之后，湖南官场再次掀起一股反对曾国藩的声浪，湖南布政使徐有壬带头要求对曾国藩进行弹劾，还有人干脆主张上奏朝廷解散湘军。然而，左宗棠告诉湖南巡抚骆秉章，这些主张万万使不得，湘军的存亡，事关湖南的安危，而曾国藩在湘军中的地位，也是绝对无人能够替代的。因此，骆秉章十分清醒地顶住了这种势头，不为所动。
在左宗棠代骆秉章拟写的奏折中，最大限度地替曾国藩开脱靖港战败的责任，真可谓煞费苦心。这份奏折是这样叙述靖港之战的：
臣曾国藩以潭城逆贼屡被官军水陆痛剿，专盼靖港之贼救援，急应乘机攻剿，俾贼首尾不能相顾。明知水师可恃者均已调赴湘潭，陆路各营，除塔齐布、周凤山两营正在潭城剿贼，升用同知林源恩一营驻防平江，此外岳州、宁乡两次失利，阵亡湘勇约七八百名，又淘汰遣散湘勇已千余名，现存营者，仅及千名，难期得力。而事机所在，又不敢不急切图之。是日卯刻，亲率大小战船四十只，陆勇八百，驰赴靖港上二十里之白沙洲，相机进剿。午刻，西南风陡发，水流迅急，战船顺风驶至靖港，不能停留，更番迭击。逆贼在炮台开炮，适中哨船头桅，各水勇急落帆收泊靖港对岸之铜官渚。贼众用小划船二百余只，顺西风驶逼水营。水勇开炮轰击，炮高船低，不能命中。战船被焚十余只，随风飘散数只。水勇见势不支，纷纷弃船上岸，或自将战船焚毁，恐以资贼，或竟被逆贼掠取。臣曾国藩在白沙洲闻信，急饬陆勇分三路迅扑靖港贼营，冀分贼势。陆勇见水勇失利，心怀疑怯，虽小有斩获，旋即却退。臣曾国藩见水陆气馁，万难得手，传令撤队回营，此又初二日靖港剿贼失利之实在情形也。
这份奏折的题目是“靖港击贼互有胜负湘潭大捷克服县城折”，文中不仅称靖港之役为“互有胜负”，并且把此役和湘潭大捷合在一起上报。湘潭一战，歼敌一万余人，是太平军征战时期整个战局的重大转折点，后来的李秀成把这次湘潭之战，总结为太平军的十次重大失败之一。尽管曾国藩和湖南提督鲍起豹都在奏折上列衔，但毕竟是由骆秉章牵头写的，其可信度当然也就大不一样。
有了以上这些铺垫，曾国藩靖港之败的责任就显得微不足道了。因此，虽然曾国藩自请处分，但咸丰皇帝相信从骆秉章的角度讲述的内容应该是真实可靠的，于是仅仅作了这样的处理：
至屯踞靖港逆船，经曾国藩亲督舟师进剿，虽小有斩获，旋以风利水急，战船被焚，以致兵勇多有溃败。据曾国藩自请从重治罪，实属咎有应得。姑念湘潭全胜，水勇甚为出力，着加恩免其治罪，即行革职，仍赶紧督勇剿贼，戴罪自效。湖南提督鲍起豹，自贼窜湖南以来，并未带兵出击，迭次奏报军务，仅止列衔会奏。提督有统辖全省官兵之责，似此株守无能，实属大负委任，鲍起豹着即革职。所有湖南提督印务，即着塔齐布暂行署理。
显然，对于曾国藩的革职留用，只是做做样子而已，相反，将与曾国藩矛盾甚深的鲍起豹革职，则是实实在在地支持了曾国藩。由左宗棠起草的这份奏折对曾国藩在当时形势之下究竟起着怎样的作用，如果仔细阅读，是不难品味得出的。
7月7日，湘军兵分三路直趋岳州。7月25日，湘军收复岳州。一个月后，太平军被迫全军退出湖南。湘潭大捷确立了湘军的声望，也让曾国藩在湖南的境遇立刻大大好转，他应骆秉章之请，重新搬回长沙办公。
太平军撤出湖南回师湖北以后，左宗棠仍然打算辞别骆秉章的幕府归乡。骆秉章诚心挽留，于是左宗棠勉强同意留下。此后，左宗棠与曾国藩在长沙谋划湘军出省作战的诸多问题，他们几乎无一日不见，无一事不商。最后决定由曾国藩率湘军出兵湖北，而左宗棠则在湖南为湘军补给军火与饷源。
这年10月，湘军出兵湖北，又连获武昌、半壁山、田家镇三处大捷。短短三个月之间，曾国藩在收复武汉三镇后，接连攻下黄州、兴国、蕲州各城。旋又进入江西，于年底兵锋直指九江。另一湘军大员胡林翼由湖北按察使改任湖北布政使并于1855年4月升任署湖北巡抚。这样，在长江中游地区基本上形成了以左宗棠经营湖南后方基地，曾国藩、胡林翼分别统帅江西、湖北的湘系势力的发展格局。
从这时起，直到1860年初，左宗棠辅佐骆秉章，度过了近六年的幕宾生活。他统筹谋划省内防御，并积极筹集军需供给在外省作战的湘军。
