胡之刚的职业生涯在退役后延续，从1978年开始，他以国家足球队助理教练的身份工作了长达12年，期间陪伴并支持了多位主教练的成长与发展。他的贡献显著，见证了中国足球的一部分历史。
1992年，胡之刚投身于中国足球的职业化进程，参与了深圳足球俱乐部的组建工作。一年后，他成为深圳足球俱乐部的第一任主教练，带领球队参加了乙级联赛。他的领导力和战术智慧帮助深圳队实现了从乙级到甲A的飞跃，展现了其卓越的执教能力。
之后，胡之刚的执教足迹遍布各地，他曾在1996年回到上海，执教上海豫园队。他的经验与技能在江苏和武汉等地也得到了体现，为当地足球的发展做出了贡献。
然而，2004年，他在西安安馨园的执教经历并不顺利，仅执教三个月后，由于球队成绩欠佳，胡之刚成为了中国职业足球联赛史上首位因成绩下滑而被解职的主教练。尽管如此，他的执教生涯中充满了挑战与起伏，但无疑留下了深刻的印记。
1959年入选上海青年队，1965年进入上海队并参加第二届全国运动会获得亚军，同年入选国家队，成为70年代中国队的守门员。技术好，基本功扎实，活动范围大，出击及时果断。1975年曾被评为亚洲杯预赛最佳门将。1976年退役。