他的幕僚薛福成后亦评价：“曾文正公始不过奉命帮办团防，后乃改为就地捐饷募勇自练。数战之后，声威既着，于是有本省之捐饷，有邻省之协饷，饷源广而募勇渐少。是文正以团练始，不以团练终。”但他没有看到，曾国藩的新式武装——湘军，正是其以本籍大员受命“帮办团练防剿”，在维护和坚持传统以上层政权统治为主导的统治格局基础上，将家乡既有团练纳入到调整之后的统治格局过程中创立的。因此，站在调整政权结构、重建统治秩序的立场，曾国藩的做法，对后来奉旨办团的人员来说，却成为理想化的样板。
清廷对新崛起的湘军势力及其领袖曾国藩的态度和做法同样耐人寻味。丁母忧在籍的曾国藩于咸丰二年奉旨办理团练，所练湘军转战江南、苦斗硬撑，成为清廷唯一可依靠的军事力量。而整整八年，清廷没有授曾军政实职。其间，咸丰四年湘军攻破太平军重镇武昌，咸丰帝“不意曾国藩一书生，乃能建此奇功”，大喜过望，下令任命曾国藩为署理湖北巡抚。然首席军机大臣祁隽藻进言：“曾国藩以侍郎在籍，犹匹夫耳。匹夫居闾里，一呼崛起，从之者万余人，恐非国家之福。”咸丰帝顿时惊出了一身冷汗。曾国藩一方面曾高居二品侍郎之位，另一方面又是统带私军的地方精英。曾国藩谦辞奏疏还未到京，咸丰帝已改变主意，降旨其毋庸署理湖北巡抚，仅赏给一个兵部侍郎的虚衔。
曾国藩“素位而行”，“武不能补千把外委之实，文不能辖府厅州县之官”，“无土无财，无位无民，凡有筹饷之方，动多掣肘之虑”，身份地位十分尴尬。他致信诸弟，大吐苦水：“余前在江西，所以郁郁不得意者：第一不能干预民事，有剥民之权，无泽民之位，满腹诚心，无处施展；第二不能接见官员，凡省中文武官僚，晋接有稽，语言有察；第三不能联络绅士，凡绅士与我营款惬，则或因吃醋而获咎。坐是数者，方寸郁郁，无以自伸。”
咸丰六年二月，曾国藩因丁父忧再次回籍，三个月假满时，他以请求不返大营、在籍终制相要挟，公然要官，称：“非位任巡抚、有察吏治权者，决不能以治军。”疑忌已深的咸丰帝却顺水推舟，诏准守制，将其晾了一年有余。咸丰九年，曾国藩之弟曾国华命丧三河之役。翌年，清廷以道员例优恤。因曾国华过继其叔父，赏其叔父从二品封典。对此，曾国藩不无失落——他过去为二品京官时，其叔父已受两次一品封典。曾国藩只能自我解嘲道：“受侄之封与受子之封，覃恩普遍之封与逾旨特颁之封，究有不同，即日当具折谢恩，并声明‘诰轴则拜此次之新纶，以彰君恩之稠迭；顶戴则仍二年之旧典，以明宠贶之久增’”，“庶叔父先受侄封，后受子封，二者并行不悖”。
咸丰十年，江南大营再度溃败，咸丰帝无兵无饷、无计可施之时，仍不甘心将督抚实权交与曾国藩，先命荆州将军都兴阿督办江北军务，广西提督张玉良署理钦差大臣，江宁副都统魁玉署理江宁将军；后来在万般无奈下，方下令授予前任侍郎曾国藩兵部尚书衔，署理两江总督，典兵之权尚且不给。直到太平军占领余杭，才最终实授曾国藩两江总督并以钦差大臣督办江南军务。
对清廷而言，依靠地方精英结团自保、练勇出队、集队成军，以牺牲基层社会的低度军事化听任其在地方精英主宰下向高度军事化演变为代价“防剿”太平军，无异于饮鸩止渴。这是清廷不愿意接受，又不能不接受的现实。
然不管清廷愿不愿意，十九世纪中期地方精英终以特殊形式进入了上层政权。且正是由于地方精英的进入，国家政权结构发生了深刻变化。
清朝官制，同为省级封疆大吏的总督巡抚之间没有统属关系，均直接向皇帝负责。一般来讲，总督管军事，节制省内绿营提督、总兵各官，且自辖“督标”三至五营；巡抚管民事，总管省内政务监察，也自辖“抚标”二营，用兵时负责粮饷。督抚以文人铨任，不用武人。盖以武人知兵，不能轻与事权，文人不习兵事，不妨假以重任。平时以文制武，战时由朝廷另外特简经略大臣等专事征伐。一省政务另有主管民政财政的布政使、主管司法的按察使及其佐贰分守道、分巡道道员分任。总督巡抚与他们之间也无统属关系，只行督率之责。布政使、按察使有办事衙门，向上分别听命于户、刑等部，且各有专折奏事之权。
曾国藩当时却是亦文亦武、亦官亦绅的古怪角色。他受任的钦差大臣、两江总督，具有统辖江、皖、赣、浙四省军务之大权，所有四省巡抚、提督以下各官，均受其节制。且前有车后有辙，不少巡抚由湘军将领出任或兼任节制本省各镇绿营总兵的提督衔，并加兼理粮饷衔。这样，巡抚变成了总督的下属。与之同时，布政使、按察使则又成为督抚的属员。按照清制，文职道府以下、武职副将以下均由总督奏请升调免黜，这样大批湘军将领开始受任地方实职，相继进入政权机构。攻陷天京后，曾国藩主动裁撤大量湘军，湘军遂为淮军所取代。
一批因湘军崛起的湖南地方精英，纷纷出任封疆大吏，以曾国藩模式掌握地方大权。所谓“楚省风气，近年极旺，自曾涤生领师后，概用楚勇，遍用楚人”。全国总督计有八人，同治二年湘军将领任总督者三人；全国巡抚十五缺，湘军将领九人任七缺。“至提镇两司，湖南北者，更不可胜数”。值得一提的是，由于清廷不承认湘淮军为国家经制军队，湘淮军作为地方基层社会的私军勇营，军饷自筹。又因战事所需，清廷被迫允许其以厘金、票盐等形式就地筹款，自行支配。无形中，从湘淮军领袖到督抚大员的地方精英，手中掌握了财政大权，加之所辖苏、皖、赣三省富甲全国，军队乃至“七八省政权，皆在掌握”，凡设官任职国课军需，悉听调度，成为五脏俱全、拥有独立军事、财政、后勤系统，甚至学校、兵工厂的可以分权割据的力量。
湘淮军领袖凭实力进入中央津要，左右政局，打破了清入关以来满清贵族忌防汉人、独揽大权的一统天下。尽管曾国藩及其继任者并未割据分权，但他们手中掌控的政权、军权、财权却逐渐形成了“重地方、轻中央”的政治格局，直接影响到后来的历史发展，为其后形成的军阀割据局面埋下了种子。
“兵为将有”之制(1)
曾国藩成就事功之基础在于拥有私属武装——湘军。早在创办湘军之前，他便明确提出国家经制军队八旗军、绿营军已不可用，必须另立新军：“就现在之额兵练之而化为有用，诚为善策。然习气太盛，安能更铸其面目而涤荡其肠胃？恐岳王重生，半年可以教成其武艺；孔子复生，三年不能变革其恶习。故鄙见窃谓现在之兵不可练之而为劲卒，新募之勇却可练之使补额兵。”
曾国藩的湘军以营为单位，营下设哨。湘军一营编制计五百人，首领为营官。
营官亲兵分为六队，每队设什长一名、亲兵十名、伙勇二名。六队分别是：一队劈山炮，二队刀矛，三队劈山炮，四队刀矛，五队小枪，六队刀矛。亲兵卫队共计七十二名。除亲兵队外，营下分立前后左右四哨。哨的首领为哨官，有护勇五名、伙勇一名。每哨下设八队，每队设什长一名、伙房一名。八队分别是：一队抬枪，二队刀矛，三队小枪，四队刀矛，五队抬枪，六队刀矛，七队小枪，八队刀矛。其中，抬枪队设正勇十二名，合什长、伙勇共计十四名。刀矛队、小枪队设正勇十名，合什长、伙房共计十二名。这样，每哨计一百零八人。一营含四哨，计有兵丁四百三十二人。
除兵士外，湘军还设有长夫之制。规定：营官及帮办人等共用长夫四十八名。搬运子药、火绳及一切军装等项，共用长夫三十名。亲兵卫队中每劈山炮队用长夫三名，每刀矛、小枪队用长夫二名，计六队共长夫十四名。拔营远行时，营官另拨长夫，帮抬劈山炮。哨官拥有长夫四名，四哨共计十六名。每抬枪队用长夫三名，每刀矛、小枪队用长夫二名，计四哨抬枪八队，共长夫二十四名；刀矛、小枪二十四队，共长夫四十八名。这样，一营中设有长夫一百八十名，计每百人用长夫三十六名。随着湘军日益壮大，许多贫苦农民见参军有利可图，纷纷愿意加入。曾国藩惟恐长夫数量过于膨胀，而生腐败弊端，又规定其人数只许减少，不许增多。凡带百人者，用长夫不得超过三十六名；凡带千人者，用长夫不得超过三百六十名。
军用物资方面，曾国藩亲定“帐棚之制”。规定：营官、帮办、书记、军火等，共用夹帐棚八架，单帐棚二架。哨官、哨长、护勇，共夹帐棚一架、单帐棚二架，前后左右四哨相同。亲兵每队夹帐棚一架、单帐棚一架，六队相同。正勇每队单帐棚二架，三十二队相同。每营合计夹帐棚十八架，单帐棚八十架。
饷金军费开支是八旗、绿营腐败的主要来源。曾国藩规范了湘军将士的薪金，具体如下：营官每月薪水银五十两；哨官每员日给银三钱；哨长每名日给银二钱；什长每名日给银一钱六分；亲兵、护勇每名日给银一钱五分；正勇每名日给银一钱四分；伙勇每名日给银一钱一分；长夫每名日给银一钱。营官每月办公经费银一百五十两，凡帮办及管账目军装书记、医生、工匠、薪粮，并置办旗帜号补等费均包括在内，听营官酌用。