1936年12月初，在苏联莫斯科中共代表团驻地，中共驻共产国际代表团团长王明通知陈云：“我们刚接到中央发来的一份紧急电报，红军西路军在河西走廊遇到国民党军的重兵阻击，连续作战，部队损失很大，形势严峻，现正向新疆方向前进。中央指示我们迅速设法从新疆接济。中共代表团决定组织一个代表团前往新疆，负责接送武器和人员的任务。任命你为团长，有军事才能的滕代远为副团长，成员包括电台报务员段子俊、译电员李春田和翻译冯铉。”
陈云是在遵义会议后受中共中央的重托，来到万里之遥的苏联向共产国际汇报遵义会议情况，而留在中共代表团工作的，滕代远则是在1934年奉命出席共产国际七大后留在苏联学习。陈云接受这一任务后表示：“坚决执行中央指示，坚决完成任务。”
12月8日，陈云、滕代远一行5人离开莫斯科，乘火车前往阿拉木图，与当地克格勃系统的人员接上头，他们脱下西装，换上苏军的棉袄与皮衣，秘密到达苏联边境霍尔果斯，等待进入新疆。滕代远后来在《我的回忆》里写道：
我们乘火车到阿拉木图中苏两国边境，在苏联红军一个营长家中住下，过了4个月，不能出门，不能理发。陈云这时鼻孔出血很厉害，送到医院去住了半个月。
1937年3月14日，西路军军政委员会由陈昌浩主持，在祁连山的石窝山召开团以上干部会议，经过认真讨论，作出决定：成立西路军工作委员会，由李先念、李卓然、王树声、李特等7人组成，李卓然任书记。将30军余部编为左支队，由李先念、程世才、李卓然率领向西游击，总队直属部队所剩的几十名领导干部随左支队行动。将第9军和骑兵师余部编为右支队，由王树声、朱良才率领，向东开展游击行动。
当晚，西路军左支队在李先念、程世才、李卓然率领下继续向西行动。3月23日，左支队到达一个叫塔实的村子，用手摇发电机发出微弱电波，向党中央请示：“目前只剩下几百人了，是进新疆还是到蒙古去？”中共中央在当天回电指示左支队：“团结一致，保存力量，前进方向是新疆或蒙古，设法去新疆，并将派陈云和滕代远去迎接。”左支队收到这一消息后，全军欢腾，立即向新疆前进。
4月中旬，左支队出甘肃跨出祁连山。4月18日，在苏联边境焦急等待的陈云、滕代远突然收到中共驻共产国际代表团电报，要他们5人“急速前进，立即按原计划到新疆接救西路军”，“去赶上到星星峡的队伍，以便回转国内”。陈云等人即刻整理行装，前往新疆省会迪化。此时的新疆军阀盛世才与苏联和中共保持着良好关系，同意在代表团接救西路军时提供帮助。
代表团从迪化前往星星峡前，盛世才提出：进入新疆的西路军余部要放下武器，以免出事。滕代远后来回忆说：“陈云同志为此坚持斗争很久，说我们是去训练干部，是你盛世才同意的，我们不干涉其他事务，不能放下枪……（西路军）到这里不容易，放下枪不成了投降？最后我们胜利了。”这一斗争的胜利，为西路军余部在迪化开办新兵营奠定了十分有利的基础。
陈云
4月29日凌晨，陈云等人带领盛世才手下一个营的部队分乘40多辆汽车，满载着武器、服装、食品和药品，前往星星峡迎接西路军。原西路军总部情报科长吕黎平回忆：“我们刚一到村口，就见到两个穿便服的人快步走了过来，定神一看，原来是陈云同志和滕代远同志。大家像虎口余生的孩子回到母亲的怀抱一样，一齐拥上前去热烈地和陈云、滕代远同志握手，一时百感交集，热泪盈眶，呜咽着说不出话来。”
5月1日下午，西路军左支队400余人在陈云、滕代远带领下，坐车向迪化驶去，5月7日到达迪化西南10余公里的红雁池。西路军进疆是秘密的，既没有搞群众迎接，也没有开欢迎会。陈云请示中央同意后，将左支队改称“总支队”，下辖干部队和4个大队，对外称“新兵营”。
官兵们入住营房后，主要的工作是休息，检查身体，治疗伤病，逐渐恢复健康。陈云、滕代远在“新兵营”开设了语文、算数等基础课程，后来还增加了中国近代史、地理、物理等课程。当时师资缺乏，为了解决困难，陈云和滕代远都亲自给部队上课，陈云上政治课，滕代远上语文课，冯铉和段子俊也都担任了任课教师。
陈云（左）
西路军战士冉正全曾回忆：“经过学习，同志们的政治思想觉悟提高很快，学习了抗日民族统一战线的方针、政策。大家在文化学习中比较认真，比着学、赛着学，白天黑夜都在学。营房的墙上、食堂里贴满了生字，甚至在沙土地上都用树枝写上了不少生字。那种热火朝天的劲头真像战场上冲锋陷阵一样。”
1937年11月下旬至12月下旬，陈云、滕代远与西路军的李先念、李卓然、程世才等人，先后回到延安。
1937年12月，毛泽东在接见李先念等西路军领导人时说：“西路军的失败，主要是张国焘机会主义错误的结果。”1951年10月第一版《毛泽东选集》中收录的《中国革命战争的战略问题》一文曾写道：“为敌人吓倒的极端的例子，是退却主义的‘张国焘路线’。红军第四方面军的西路军在黄河以西的失败，是这个路线的最后的破产。”
陈云认为毛泽东对西路军的这些评价不符合历史实际，上世纪80年代，他多次站出来进行纠正。1981年11月22日，陈云指出：“西路军过河是党中央为执行宁夏战役计划而决定的，不能说是张国焘分裂路线的产物。”
陈云
1982年2月27日，陈云说：“西路军是当年根据中央打通国际路线的决定而组织的，我在苏联时，曾负责同他们联系援助西路军武器弹药的事，而且在靠近新疆的边境上亲眼看到过这些装备。”
1983年1月5日，陈云又进一步指出：“西路军打通国际路线，是党中央、毛主席过草地以前就决定的。西路军的行动不是执行张国焘的路线，张国焘的路线是另立中央。西路军的失败也不是因为张国焘路线，而主要是对当地民族情绪、对马家军估计不足。”
2001年11月7日，江泽民在纪念徐向前诞辰100周年座谈会上讲话指出：“1936年10月三大主力红军会师后，他奉军委命令，任西路军军政委员会副主席兼西路军总指挥，指挥部队与敌人血战4个多月，有力地策应了河东红军的战略行动。”这是继陈云为西路军发声后，党中央为西路军所作的公开结论。