公元1851年，左宗棠在家乡避乱时，太平天国的农民武装已经从粤、桂打到湖南，所向披靡。但是在围攻长沙的战役中，遭到了清军江忠源部的顽强抵抗，西王萧朝贵不幸中炮阵亡。
洪秀全得到噩报时，当即发誓一定亲率大军踏平长沙城，为萧朝贵报仇。清廷急忙从贵州调张亮基为湖南巡抚，以加强湖南的守战。恰好张亮基是左宗棠的密友胡林翼的顶头上司。胡林翼向张亮基极力推荐，力陈左宗棠侠肝义胆，忠勇刚烈，熟知古今地图兵法，又晓达时务。
张亮基接受了胡林翼的推荐，在他赴湖南上任的路上，接连三次派专人携带书信到山中请左宗棠出山入幕，极表思贤若渴之情。
同时，胡林翼又致函左宗棠劝其出山：
张中丞不世奇人，虚心延访，处宾师之位，运帷幄之谋，又何嫌焉。设楚地尽沦于贼，柳家庄、梓木洞其独免乎？
经过张亮基遣人备礼走请，胡林翼的积极敦促以及江忠源、郭嵩焘等人的热心劝说，加上左宗棠曾在湘江与林则徐会面时听林则徐亲口称赞张亮基是一个宽厚敏行的官员，更是出于保卫桑梓和捍卫儒家文化的需要，左宗棠终于应张亮基之邀第一次出幕。
1851年10月7日，左宗棠怀着补天之志攀绳索登城，进入长沙，赞襄湖南巡抚幕府。张亮基让他全权负责军事指挥。于是左宗棠便日夜调配武器和兵力，与江忠源和黄冕等人策划抗击太平军。
也就在这一次幕府生涯中，左宗棠与曾国藩首次见面。左宗棠、曾国藩均为晚清一代名臣，都为清王朝的“同治中兴”立下过汗马功劳，他们在中国近代史上有着不可替代的作用和地位。当时曾国藩回湖南本是为母亲办丧事。没想到正逢太平军横扫湖南，咸丰皇帝便命他出任帮办湖南团练大臣。曾国藩赶到长沙，到了馆舍，换过衣服，匆匆洗了把脸，就坐下来，与前来迎接的湖南巡抚张亮基及其幕宾左宗棠展开长谈。
论身份，在座的三个人中，以左宗棠最为卑微。然而谈起话来，左宗棠却成了主角。他不等张亮基开口，就主动详细介绍起长沙的防务安排。一声不吭的张亮基似乎倒成了他的跟班。而曾国藩也只有俯耳倾听的份，一时竟插不上话。
然而资历远高于左宗棠的曾国藩却并不觉得不舒服。相反，他越听，越觉得左宗棠确实名不虚传。在此次会面前，左宗棠之名对曾国藩来说已经如雷贯耳。有太多朋友向他介绍过这位“湖南诸葛亮”是如何卓绝特出。交谈之中，左宗棠之头脑清晰，气概慷慨，议论明达，言中款要，确实令曾国藩颇为叹服。
曾国藩虽然此时已是高居二品的官员，但一名京官要想在地方上开辟一番事业，其实并不太容易。因为他毕竟是在籍官员，而不是实任官员。官场上最现实、最势利的是“县官不如现管”，如果湖南的地方官员不大力配合他，无职无权的他其实寸步难行。
因此，对这个小小举人，曾国藩极为尊重，言必称兄。不论大小事情，无不虚心请教。他相信，有这位明敏强毅的人才帮忙，他在湖南办理团练，一定会相当顺利。
曾国藩与左宗棠二人的首次合作是十分顺利的。曾国藩总览天下大势，断定此时大清王朝的正规军不管是八旗还是绿营都已经彻底腐败，要想平定太平天国，就必须赤地立新，编练一支全新的武装。所以到长沙不久，他就上了一道后来被认为是湘军成立之标志的奏折：“今欲改弦更张，总宜以练兵为要务。臣拟现在训练章程，宜参仿前明戚继光、近人傅鼐成法。”
所谓英雄所见略同。就在曾国藩上这道著名的折子前三天，湖南巡抚张亮基也上过一道内容相似的折子，提出：
委明干官绅，选募……乡勇一二千名，即由绅士管带，仿前明戚继光束伍之法行之。所费不及客兵之半，遇有缓急，较客兵尤为可恃。
由于张亮基对左宗棠的重用和几乎言听计从的信任，可以说，张亮基的折子，其实就是左宗棠的折子。这道折子证明，创立湘军的想法，其发明权不能由曾国藩独有，起码应该说是曾、左二人共享的。
除此之外，此二人还在另一个问题上不谋而合，那就是要加强湖南防卫，应该从扫清湖南境内的土匪入手。这样的话，如果太平军再次进入湖南，就不会再得到本省土匪的呼应。
两人同心，其利断金。更何况是曾国藩和左宗棠二人呢！二人计议已定，具体事务交由曾国藩来操作，而左宗棠则在调人用兵和办公经费方面多方协助。
曾国藩初涉军事领域，两眼漆黑，幸亏左宗棠向他推荐了塔齐布作为帮手。塔齐步为人忠勇，做事负责，后来成为湘军一员名将，对曾国藩帮助极大。对于左宗棠所做的这些，曾国藩十分感激。
在这段时间里，曾、左二人往来信函极多，曾国藩探讨军务的信件干脆不再寄给巡抚张亮基，而是直接写给左宗棠，对左宗棠的称呼也从客气的“尊兄”变成了亲切的“仁弟”，这显示出两人关系的日益亲密。
太平军在长沙城下屡屡受挫后，便计划放弃长沙城，绕城而走继续北上。于是，太平军夜渡湘江，随后又攻占了岳州。太平军北上之后，长沙之围自然解除，左宗棠决定继续协助张亮基专心整顿本省治安。
张亮基曾说，他只有三个人可以完全依靠，其中就包括左宗棠。左宗棠因功，得旨以知县用，并加同知衔。在清廷将张亮基升调代理湖广总督后，左宗棠选择随张亮基离开长沙，赴武昌湖广总督衙门，仍做张亮基的幕僚，助张亮基筹划湖广地区的军事并整顿当地的吏治。
骆秉章调任湖南巡抚后，因左宗棠此前谋划有功，请旨将他以同知直隶州选用。左宗棠大力推辞，因而未获官职。左宗棠拒绝就任的原因有很多，也许他认为以自己的能力去就任那个职务颇有些大材小用了。毕竟，左宗棠总爱自比“今亮”，认为自己就是具有经天纬地之才的当世诸葛亮。
在张亮基奉命调补山东巡抚一职后，左宗棠辞归湖南，归居湘阴县东山白水洞。左宗棠与张亮基私交甚笃，在公元1871年，即同治十年张亮基病故后，左宗棠特为其作《云贵总督张公墓志铭》。
