胡俊的职业生涯始于1988年10月至1989年8月，在四川省黔江自治县两河区镇担任青年干事。这段时期，他积累了基层工作经验。随后，他在1989年8月至1993年4月期间，担任四川省黔江自治县文化局秘书股负责人，1992年11月起被借调到黔江县政府办公室工作。
1993年4月至1994年6月，胡俊晋升为黔江县政府办公室秘书科秘书和副科长，之后在1994年6月至1999年11月期间，他在重庆市黔江自治县委办公室担任副主任，同时借调到重庆市黔江地区（开发区）党（工）委办公室。
1999年11月至2000年10月，胡俊在重庆市黔江开发区党工委办公室担任三秘科负责人和主任科员，随后在2000年10月至2001年9月，他担任石会区党工委书记、管委会主任和人大工委主任，显示出他在地方管理方面的逐步提升。
从2001年9月至2004年2月，胡俊担任重庆市黔江区委办（保密办）副主任和机要局副局长，同时兼任区委区政府督查室主任。这段时期，他的职责进一步扩展，涉及党务和行政工作。
2004年2月至2006年3月，胡俊的职务进一步提升，他不仅是区委办（保密办）副主任、机要局副局长，还担任区委区政府督查室主任和政直系统党委书记。2006年3月至2007年3月，他成为重庆市黔江区政府办公室党组书记、主任，并继续负责督查室和政直系统党委书记的工作。
在2007年3月至2008年10月，胡俊担任重庆市黔江区政府办党组书记、主任，政直系统党委书记，直至2008年10月至2009年8月，他成为重庆市黔江区政府秘书长，政府办党组书记、主任，期间还曾赴福建省湄洲岛国家旅游度假区挂职。
2009年8月至2011年11月，胡俊转任重庆市万盛区人民政府副区长，最后在2011年11月以后，他成为重庆市万盛经开区党工委委员、管委会副主任，继续在行政管理岗位上发挥重要作用。
胡俊，中国外科医师协会常委会委员，中华医学会肛肠科学分会会员，中国肛肠协会驻上海临床中心常务委员。上海中潭肛肠医院肛肠外科主任医师、教授。同时肩负着上海交通大学、同济医学院、福建医科大学等多所学校的肛肠疾病临床教学课程。