军衔制度是我军正规化的重要一步。解放初期，我军开始准备授军衔。1952年，总干部和苏联专家初步制定了一套军衔方案。该程序将级别设置为6和20级别。

1955年1月14日至15日，中央军委召开为期两天的会议，对元帅、上将、上将军衔人选进行具体研究。中央军委委员彭德怀、贺龙、徐向前、聂荣臻、罗荣桓出席会议。陈毅、叶剑英因病缺席，邓小平因公事缺席。会议由主持中央军委日常工作的彭德怀主持。经过充分研究讨论，最终达成共识：授予现任军委主席和军委委员元帅军衔。元帅军衔分为大元帅和元帅两个级别。16日，彭德怀和罗荣桓共同向毛泽东汇报了提名名单和意见。

8月2日，彭德怀再次在报上撰文：“关于元帅军衔名单，军委委员研究过，认为因为毛泽东同志是中华人民共和国主席，需要统率全国武装力量，应任命为大元帅；其余11名军委委员应任命为元帅。''

其后不久，9月9日至16日，书记处召开大会，出席会议的有：毛泽东、刘少奇、朱德、陈云等第一班参加，最后决定军委委员朱德、彭德怀、林彪、贺龙、刘伯承、陈毅、罗荣桓、徐向前、聂荣臻、叶剑英应该授予元帅军衔。过去，革命战争中对有功人员的奖励是结束二十多年的革命战争。在国防现代化建设中，除了按照现代化的要求改变军队的装备，也必须按照现代化的要求改变编制。这包括从志愿兵到应征入伍的制度，兵役条例的制定，薪俸制度的实行等等，其中很重要的一个就是对有功人员的嘉奖和奖励。有的同志长期在人民解放军服役，现在转业，没有被授予军衔。授予元帅称号的战友确定为10名，并不是都能授予。比如邓小平同志，在革命战争中建设军队、指挥作战，立下了汗马功劳。他也是国防委员会副主席。我们也认为最好不要商议。不管怎么看，毛泽东可以授予大元帅称号，但经过中央政府和毛泽东本人的考虑，还是不授予为好。以后需要的时候可以授予。''（摘自陈云年谱）