刘辉山是江西省永丰县人，1909年出生。1927年参加游击队，是本县白沙区自卫大队区副大队长。1930年编入红4军特务营，历任红一方面军总政治部政保团副班长、红1军团直属工兵连排长、政治部政卫连副连长、司令部警卫排排长、直属警备连副连长。红军长征到陕北，历任延安中央教导大队教员、中队长、中央警卫团参谋长、营长。解放战争时期，刘辉山出任中央警卫团第四任团长。
 
    刘辉山当中央警卫团团长时，正值毛主席转战陕北时期，中央警卫团负有重大责任，刘辉山更负有第一位的责任。
 
    有一次毛主席抵达王家湾，刘戡的部队据王家湾只隔一个山头，汪东兴自告奋勇带了一个排去骚扰敌人，毛主席、周恩来和刘辉山转移到小河村，深夜，汪东兴没有回来，一股敌人距小河村只有十里路了，毛主席、周恩来又转移至天赐湾。这时刘辉山侦察到另一股敌人扎驻在天赐湾附近，与警卫部队仅一沟之隔，刘辉山急忙给毛主席写了封信，派人送给毛主席，向毛主席报告情况危急，天赐湾已在敌火力控制之下，必须再转移。毛主席看了信，对刘辉山派来的战士说：“你回去告诉你们团长，，今晚我就住在天赐湾不走了。我毛泽东两条腿，他刘戡也是两条腿，他要睡一个安稳觉，我毛泽东也要睡一个安稳觉嘛。告诉你们团长，要沉住气，越是紧要关头，越是要冷静。叫他把警卫放出去，什么时候和刘戡打起来，我什么时候走。”
 
    刘辉山只好把手上的五个连布置进入阵地，监视敌人。当晚敌人果然按兵不动，天亮拔营起寨撤走了。
 
    在毛主席的领导下，一年多的时间里，刘辉山指挥中央警卫团进行了多次战斗，保证了毛主席等中央领导的安全，圆满完成了任务。
 
    建国后，刘辉山任中央公安警卫师师长。1953年刘辉山赴朝，任志愿军朝鲜停战谈判代表团保卫处处长，参加了板门店和平谈判的警卫和志愿军代表团的安全保卫工作。刘辉山1955年被授予少将军衔。获叁级八一勋章、二级独立自由勋章、二级解放勋章。 刘辉山后任北京卫戍区副司令员，1983年去世。