解放战争时期，人民解放军有五大野战军。五大野战军中：西北野战军（第一野战军）司令员兼政委是彭总；中原野战军（第二野战军）的司令员是刘、政委是邓；华东野战军（第三野战军）司令员兼政委是陈（粟）；东北野战军（第四野战军）的总司令兼政委是林；华北野战军（第五野战军）的司令员聂、政委是薄。

五大野战军，在革命战争年代，犹如五只雄狮，纵横驰骋于辽阔的大地上，勇往无前，凯歌行进，所向披靡，锐不可当，成为了打倒蒋介石国民党反动派、建设新中国的精锐武装力量。

解放战争时期，我各个野战军都设立了纵队的编制。解放军纵队，又称“野战纵队”，相当于军一级的组织，“纵队”相当于“军”，一般下辖三到四个师，拥有五万余人左右。从1948年11月起，各野战纵队改称军。

解放战争开始后，我军不断壮大，五大野战军的纵队编制序列也不断增加。但有个奇怪现象，虽然每个野战军都有五个以上的纵队，但是除了四野以外，其他四大野战军中均没有第五纵队这个编制番号，而是直接跳过后设置了第六纵队。而在解放战争初的各大野战军编制序列里，开始均没有设立第五纵队这个番号。

不禁要问：各野战军的纵队级编制里缘何没有第五纵队呢？

这还得从1936年的西班牙内战时说起。“第五纵队”作为特有名词，起源于西班牙内战时期.西班牙内战时期,1936年，代表着广大劳动人民意志的“西班牙人民阵线”在议会选举中获胜，取得了政权并组成了自己的联合政府。

失去了权力的大地主和大军阀们不甘心失败，在长枪党首领(原西班牙陆军参谋长佛朗哥上将)的率领下,西班牙军阀和意大利法西斯组成的法西斯联军，向西班牙首都马德里发动了疯狂的军事进攻。

1939年3月28日，由于内部分裂，加之叛军力量强大，在优势敌人的内外夹攻下，马德里失陷了。从此以后，“第五纵队”就成了帝国主义在对他国进行破坏时，收买的那些叛徒、流氓和破坏分子、敌特份子、间谍的统称。

希特勒就非常喜欢使用“第五纵队”。二战爆发后，入侵他国时，德军每次行动几乎都能得到不同国家内部的“第五纵队”的协助。而希特勒也总是喜欢宣传“第五纵队”。他认为，就算在对手内部不存在这股力量或力量很小，也要虚张声势，大肆宣扬，目的是造成有一个非常强大的“第五纵队”的假象，以扰乱对手的阵脚。

鉴于“第五纵队”这种历史，所以，解放战争中，在解放军各野战军序列里，有很长一段时间，均没有组编第五纵队。各野战军都避免使用“第五纵队”这一番号。而在前期的东北民主联军（东北野战军）中也没有设立“第五纵队”。东北野战军一共有十二个纵队，其中一、二、三、四、六纵队是最早组建的主力纵队，唯独立空缺着第五纵队。之后，东北野战军为适应大兵团作战之需，又组建了第七、第八、第九纵队，仍未使用第五纵队的番号。

后来，随着战争形势的发展，解放军队伍不断壮大。随着时间的推移，“第五纵队”的恶名已渐被淡化。而此时，东北野战军对在艰苦困苦发展起来的实力也显得非常自信，于是在增编中就将辽南、辽东解放区地方部队的三个独立师改编成东北野战军第五纵队。下辖第13、第14、第15师，全纵队3.6万余人。

增编第五纵队时，林总说：“我并不忌讳什么‘第5纵队’。”第1纵队政委万毅也说：“我也不忌讳！”

于是，林总就指派了“不怕一万，就怕万一（毅）”的万毅将军，来担任第五纵队的首任司令员。首任政委是刘兴元。

就这样，五大野战军中唯一的一个第五纵队总算是诞生了。但是，东野设立第五纵队后，西北、华北、中原、华东野战军直至最后，也未设立“第五纵队”这一编制序列。

东北野战军第五纵队虽然成立的比较晚，但是却与其他老的纵队一样，既有着光荣的历史与传统，又有着解放战争后期，解放全中国的骄人战绩。

后来，在1948年11月，按照军委规定的统一序列，东北野战军第五纵队整编为第四野战军第42军。