中国近代史上，军阀林立，彼此割据混战。上世纪30年代，蒋介石通过军阀混战，名义上统一了全国，收编了各个军阀部队，但由于每个军队系统都采取了不同的部队编制方式，因此导致了一个特别的现象——军衔混乱，以至于后来老百姓还专门编出了一句顺口溜“少将满街走，少校不如狗”，来讽刺这样一种现象。

以蒋介石为首的国民政府，对于军衔混乱这样一种情况，也是深感无力，毕竟各地军阀武装，只是名义上归属于政府，实际上私相授受的情况大有存在，甚至于师以下各级军官的任命，都是由各级长官自己说了算，因此到了30年代中期，为了改善这样一种状况，国民革命军事委员会铨叙厅成立，负责考核军官功绩军衔的晋升。

所以也就有了后来的铨叙军衔与职务军衔的分别。

实际上区别很明显，拿一个人来举例，廖耀湘熟悉近代史的人都不陌生，作为新六军军长，以及后来统帅数万大军的兵团司令，廖耀湘职务军衔为中将，可铨叙军衔仅为骑兵上校。相比起来看，其铨叙军衔的级别，比较符合这个人的资历，毕竟廖耀湘本人只是黄埔六期毕业。

表面上来看，铨叙军衔与职务军衔各自分开，确实是一种解决军衔混乱的方法，但实际上并没有解决根本问题，特别是随着后来战争的爆发，战争中严格的军衔晋升制度，是不利于战争的发展的，后续提拔一些将领也逐渐增多，这些人大多数按照职务授予军衔，但实际铨叙军衔级别都不高，甚至还出现了中校、少校级别的师长。

更为关键的是，为了实现蒋介石政治企图，军衔授予的状况基本上更加普遍，所谓的铨叙厅也基本上只是挂羊头卖狗肉，基本上到了解放战争时期，为了限制上将的名额，还额外出台了一个规定，那就是陆军中将加上将军衔，给中将级别的将官临时授予上将职权，但不加星，等到名额空出以后，再实际授予。

说白了铨叙军衔才是一个人的正式军衔，职务军衔是根据职务临时授予，当不再担任该职务以后，军衔随即取消，可现实情况是，很多人都只会按照职务军衔来佩戴标记，比如廖耀湘，我们很少有人知道廖耀湘只是一个骑兵上校，在很多公开场合，廖耀湘佩戴的都是中将军衔。

还有一个人，戴笠，作为军统一把手，戴笠始终挂中将军衔，然而这个中将是戴笠死后在追授的，按照正常的级别，戴笠仅仅只是少将。值得一提的是廖耀湘在1948年9月22日晋升少将，当时他本人已经是第9兵团司令了，手里管着几万人马。

虽然蒋介石曾多次致力于改变这种军衔与职务不对等的情况，但却始终没能彻底解决，抗战结束以后，蒋介石曾计划大规模裁军，以便于军衔职务对等，但实际上由于执行过程中，蒋介石借机裁撤大部分军阀部队，引发各地不满，裁军工作执行过程中异常困难，加之后来内战爆发，国民党军最终不得不停止裁军。