从1978年起先后协助年维泗、苏永舜、张宏根、高丰文带领四届国家队，担任国家队守门员教练，有“胡老二”之美称。1983年曾进北京体育学院进修两年。他以扎实的理论知识立于足坛、出色的语言文字表达能力闻名于世。
胡之刚退役后在1978年起担任国家足球队助理教练达12年期间辅助了四位主教练。1992年在深圳参与组建深圳足球俱乐部，1994年成为深圳足球俱乐部首任主教练并率队去参加乙级联赛，把深圳队从乙级带到甲A。1996年回上海执教上海豫园队，之后在江苏、武汉等地执教。2004年执教西安安馨园3个月后因成绩不佳成为中甲首位下课主教练。
1978-1990年，中国国家足球队助理教练 1994-1995年，深圳队1996年，上海豫园1997年，江苏加佳1999年，武汉红桃K2000年，八一振邦
俱乐部开始时间结束时间八一振邦2000-06-142000-11-22武汉光谷1998-11-201999-04-07上海豫园1995-12-101996-08-26
