湘军作为中国近代历史上至关重要的军事政治集团，涌现了一大批影响中国近百年的风云人物，诸如曾国藩、左宗棠、郭嵩焘等等。而在这些风云人物中，有一个人是湘军的奠基人，甚至可以说他的功劳不在曾国藩之下，就连桀骜不驯的左宗棠也直言：此人乃湘军中自己最佩服的人物。
然而就是这样一位人物，相比曾、左、郭等人，既没有冲锋陷阵的赫赫战功，也没有语不惊人死不休的超前思想。那么他凭什么会与曾国藩相提并论，又凭什么能令左宗棠钦佩之极呢？这个人就是湘军的关键人物胡林翼。
曾国藩和胡林翼为湖南老乡，太平军兴，湘军初建，胡林翼与曾国藩皆为湘军奠基人。与曾国藩不同，胡林翼则更注重内部建设、选拔人才和结交上级。一个团体想要获得成功，首先要有一个统领全局的领袖，还必须要有出谋划策的谋士和冲锋陷阵的干才，然而仅有这些还不够，还必须要有一个善于署理后勤，能够协调上下级关系能够，默默耕耘任劳任怨为集团查缺补漏的人物。
这样的人物或许在历史上没有激动人心的赫赫战功，没有令人激赏的奇谋妙策，但是他们的功劳却不输谋臣猛将。胡林翼就是一个这样的人物。
有人曾总结说：假如没有胡林翼，那么在1855年湘军很可能就挡不住太平天国的凌厉攻势；假如没有胡林翼，曾国藩可能就难以东山再起而从此沉沦；假如没有胡林翼，那么也就没有后来的左宗棠。这种说法并非夸大其词，当时不少人想加入湘军都说“投曾（国藩）不如投胡（林翼）”，曾国藩自己也承认“水陆数万人皆仗胡公以生以成”，“江楚皖豫诸将帅，除非润帅能调和一气，联合一家”。左宗棠才华过人但却桀骜不驯，正是胡林翼一再举荐他，终于使得左宗棠为国家建功立业。
胡林翼活着的时候湘军的两大灵魂他是其中之一，曾国藩真正成为湘军独一无二的最高领袖和灵魂人物是在胡林翼死后。正是凭借这些，胡林翼得以和曾国藩、李鸿章、左宗棠并列“满清中兴四大名臣”。清末著名学者王闿运评价胡林翼说：“中兴之业，实基自胡。”
公元1861年，胡林翼积劳成疾，吐血不止，病逝于任上，终年49岁。对于胡林翼的死，有一种说法是他在船上看到洋人的舰船迅捷如风，对比下自家舰船则十分缓慢。要知道湘军战船是清政府最精锐的水军，却被洋人完爆。