历史上关于湘军建立的具体时间没有记载,大约是在太平天国运动兴起后的一段时间里,大约在1853年左右。由于清政府的八旗军队不能抵抗太平天国的太平军,不得不组织地方团练。曾国藩组织整合湖南地方的团练,由于大都是湖南子弟,故而称为湘军。从此之后到新中国成立后,湘军作为湖南的一直地方武装而活跃在战乱纷飞的历史长河之中。
咸丰二年(1852),太平军由广西进军湖南,清廷震恐。 适曾国藩因母丧在籍,奉旨前往长沙,帮同湖南巡抚办理 团练。遂招募农民为营勇,任用儒生为将佐,朝夕训练, 号“湘勇”(通称湘军)。1854年初,湘军练成水陆师1.7万余人,会集湘潭,誓师出战。湘军初战,连败于岳 州(今湖南岳阳)、靖港,曾国藩为此愤不欲生,投水自 杀,被其左右救起。后重整军实,复占岳州,攻陷湖北省 城武昌,奉诏署湖北巡抚。此后用兵更为谨慎。旋因朝廷 恐其于地方势大,又被解署任,以后长期只以侍郎虚衔领 兵。1855年初,进攻江西九江、湖口,被太平军重创,退 守南昌。1858年6月,曾国藩奉诏出办浙江军务。1860年清军江南大营彻底败溃后,加兵部尚书衔,授两江总督, 以钦差大臣督办江南军务。从此,不但拥有兵权,而且掌握地方大权。
1853年(咸丰三年) 清政府寻求力量镇压太平天国,曾国藩在家乡湖南一带,依靠师徒、亲戚、好友等复杂的人际关系,建立了一支地方团练,称为湘勇。
湘军是晚清时对湖南地方军队的称呼,或称湘勇。太平天国运动兴起后,清朝正规军无法抵御,不得不利用地方武装,湘军就是在这时发展起来的。除了镇压太平天国时期的曾国藩创建的湘军,还包括该部一直延续到抗日战争时期的湖南军队。直到何键下台,蒋介石才把湘军改造为半中央军。到1949年,半中央化的湘军全部被解放军消灭,湘军的历史至此终结。