1936年10月，红军三大主力会师后，中央决定由红四方面军一部2万余人组成西路军，进入甘肃河西走廊创建根据地，时任红30军政委的李先念被任命为西路军军政委员会委员。

从西渡黄河到撤出永昌，西路军共经历大的战斗28次，红30军参加了其中的15次。西路军的老同志曾评价说：“先念领导的红30军，是红四方面军中守如泰山、攻如猛虎、英勇善战的主力部队。”

由于敌众我寡，西路军虽然英勇杀敌，但在奋战了5个月以后，仍难以摆脱失败的命运。1937年3月14日傍晚，西路军军政委员会在石窝山头召开扩大会议，会议决定：陈昌浩和徐向前回陕北向党中央汇报工作；同时由李先念等8人组成西路军工作委员会，李先念负责剩余部队的军事指挥，李卓然负责政治领导。

面对西路军的危境，李先念受命于危难之时，他率领红30军余部及西路军总部共1000余人组成西行支队，进入风雪弥漫的祁连山腹地。

西行支队进山的第二天，红30军副军长熊厚发左臂伤口化脓，血管破裂，不能走了，他不愿拖累部队，请求李先念把自己留下。李先念却说：“我就是背，也要把你背出去！”

熊厚发坚定地说：“政委，你要指挥部队，这里危险，你们赶快离开这里！”

卫生部长苏井观也悄悄对李先念说：“厚发同志流血过多，很难翻越祁连山。”

最终李先念含泪嘱咐熊厚发：“你一定要多保重，一定要坚持住！”他给熊厚发开了一封党员介绍信，留下一小包盐和一些银元，还特地抽出一个排的战士作为警卫。

谁知此别竟成永诀，不久以后，熊厚发在游击斗争中不幸牺牲。

此后李先念率领西行支队在祁连山中艰难前行，部队断粮了，他亲自去打野羊，有人掉队了，他就用革命信念鼓舞大家前进。李先念晚年时曾回忆说：“过祁连山时，零下30多度，好好的同志，晚上睡觉时还一起说话，第二天就起不来了……”

3月23日，西行支队唯一的一部电台与党中央取得了联系，中央指示西路军余部西赴新疆。4月22日，李先念带领部队走出祁连山、来到蘑菇台，结束了历时43天、行程1500余里的艰难行军，此时全军仅剩903人。4月27日，西行支队抵达新疆和甘肃的交界地星星峡，结束了悲壮的西征，李先念为党和红军保存了一批骨干力量。

1937年12月，李先念等人从新疆回到了延安，毛泽东亲切地接见了他们。对李先念在西路军建树的功绩，毛泽东给予了高度评价：“李先念是将军不下马的。西路军战斗到最后，由你们带领一部分同志排除万难到达新疆，这种坚定的行为，除了共产党人领导的红军，是其他任何军队也做不到的！”

李先念回到延安后，先后在抗日军政大学、中共中央马列学院学习。1938年11月的一天，总政治部副主任谭政找李先念谈话说：“先念同志，组织决定你到八路军129师当营长，你有什么意见吗？”

李先念之前是军政委，当营长意味着要连降6级，但他却毫不在意，并坚定地回答说：“坚决服从组织的安排。”

不久以后，毛泽东把李先念找去，问他说：“听说谭政要你到129师去当个营长，有这个事吗？”

李先念作了肯定的回答，毛泽东感叹道：“这太不公平了！”他又问李先念：“高敬亭这个人你认识吗？”

李先念说：“不仅认识，还很熟。”

毛泽东说：“高敬亭现在是新四军第4支队支队长，你去他那里当参谋长吧！”

就这样，李先念出任新四军第4支队参谋长，开始了新的征程。