1928年4月末，朱德和陈毅率领湘南起义的队伍在井冈山和毛主席胜利会师。两军会师后，总兵力超过了一万人。井冈山地广人稀，物产十分有限，无法供养这么多部队。无奈之下，4000多名跟随朱老总上井冈山的湘南农军被动员回老家打游击。即便这样，井冈山上的兵力还有6000多人，为了解决部队的吃饭问题，朱老总都要下山挑粮食。除了吃粮困难外，部队的武器弹药也极为缺乏，汉阳造、老套筒和鸟铳加起来还不到一千支，不少战士手中拿的还是木棒。
要想解决部队武器缺乏的问题，只有两个途径，一个是从敌人手中缴获，另一个办法就是自己造。毛主席决定这两种办法同时进行，当时红军队伍里并没有造武器弹药这方面的人才，经过考虑后，毛主席将这个重任交给了赵尔陆。赵尔陆早年曾经在国民革命军中当兵，接触过这方面的知识，再加上他有一定的文化，头脑灵活，点子多，又参加过南昌起义，因此毛主席才将造武器弹药的重任交给了他。
当时红军还没有机床，赵尔陆挑选了5名当过铁匠的战士，在茅坪村一座废弃的祠堂里，建立了红军第一个兵工厂。这个兵工厂起先和铁匠铺并没有太大的区别，只能造梭镖和大刀，赵尔陆也因此被战友们戏称为“铁匠铺”的掌柜。过了一段时间后，赵尔陆开始尝试修复部队中的坏枪，他把不能用的坏枪集中起来，拆解后重新组装。经过不懈的努力，修好了不少坏枪，部队武器缺乏的困境得到了一定程度的缓解。
在造梭镖、大刀和修复坏枪的同时，赵尔陆还用土办法造火药，材料主要是硝石、硫磺和木炭。这些土火药的威力虽然不及制式火药，但起码保证了红军在连续作战时有弹药可以使用。赵尔陆的努力和成绩，毛主席都看在了眼里，进一步对他委以重任，让他担任军需处处长，把后勤保障这一块也交给了他。赵尔陆也没有辜负毛主席的期望，在他的努力下，到1933年的时候，红军已经有了三座小型兵工厂，年产步枪400支，手榴弹两万多颗。
第五次反“围剿”失利后，中央红军被迫离开根据地开始长征。由于李德的错误指挥，红军在湘江战役中付出了沉重的代价，不仅兵力减半，后勤单位也遭受了很大的损失，不少物资在战火中被损毁。红军的后勤物资保障本来就不宽裕，湘江战役后更加捉襟见肘了。1935年6月，长征中的中央红军来到了人迹罕至的夹金大雪山。这座雪山海拔超过4000米，山顶空气稀薄，昼夜温差极大，晚上的气温低至零下20度。
当时中央红军的官兵们还穿着单衣，根本无法抵御雪山上面的严寒，急需赶制一批棉衣，但偏僻当地又买不到棉花和布匹。没有棉衣，战士们如何翻越雪山呢？赵尔陆亲自到老乡家中走访，发现当地有不少牧民，羊毛很多。他眼前一亮，想到了一个好办法，供给部全体出动，从老乡手中买了一大批羊毛。之后赵尔陆开始发动大家捻毛线，然后再用毛线织毛衣、毛裤、毛袜和毛帽。
经过半个月的奋战，赶制出了21000多件御寒衣物。虽然这些衣物针脚粗糙，外形也不美观，但却能起到不小的保暖作用。毛主席得知后十分高兴，称赞赵尔陆这招解决了大难题。之后赵尔陆又从老乡们手中购买了辣椒和白酒，这两样东西同样可以起到御寒的作用。靠着用羊毛缝制的御寒衣物，再加上辣椒和白酒，红军终于翻过了号称鸟儿都飞不过去的夹金山，并且没有出现太大的冻伤减员，在这一点上，赵尔陆功不可没。
两个月后，长征中的中央红军又迎来了一次艰难的考验，部队要过草地了，却没有粮食。赵尔陆又一次临危受命，和供给部的战友们一起，到牧民中间宣传红军的政策，争取他们的支持，再用银元从他们手中购买青稞。买到的这些青稞被磨成粉，按照每人每天8两的标准分给了部队。后来粮食吃完了，不得不吃野菜。赵尔陆又亲自带头，试吃各种野菜，并把有毒的野菜做成样本进行展示，避免战士们误食。
整个长征途中，赵尔陆尽职尽责，想尽一切办法保障后勤供应，在部队翻雪山过草地的过程中立了大功，为中央红军胜利到达陕北作出了极为重要的贡献。抗日战争全面爆发后，赵尔陆先是担任八路军总供给部副部长，后来调到晋察冀军区任职，先后担任过第二军分区司令员兼政委和冀晋军区司令员等职。任职期间，除了指挥部队打仗之外，赵尔陆还有一个十分重要的任务，那就是在晋察冀搞军工生产，这是聂荣臻亲自交办的。
搞军工生产，赵尔陆并不陌生，这是他在井冈山时期的老本行了，而且晋察冀的条件也比井冈山时期好多了。在赵尔陆的努力下，仅用了数年时间，晋察冀军区就拥有了18个兵工厂，年产步枪数千支，手榴弹60万枚，迫击炮弹3万多发，有力地保障了部队的作战需要。晋察冀能够成为模范抗日根据地，赵尔陆功不可没。抗战胜利后，赵尔陆又参加了解放战争，担任过晋察冀军区参谋长、华北军区参谋长和四野第二参谋长等职。
新中国成立后，赵尔陆出任第二机械工业部部长，脱下军装，离开了部队。1955年秋季，我军举行了历史上第一次大授衔。当时有规定，已经不在军中任职的，原则上不参加这次授衔。程子华、周保中和冯白驹等人，都因此遗憾地和军衔失之交臂。当时赵尔陆也没有军职，按照授衔时的规定，他将无法获得军衔。但1952年定级的时候，赵尔陆是正兵团级，战争年代，他又在军工和后勤供应方面做出过极为重要的贡献，不授衔的话说不过去。
最终毛主席拍板：“军事工业是部队的第二战场，管这个战场的人，应该评衔。”赵尔陆因此顺利地参加了大授衔，被评为上将，并获得了三枚极为宝贵的一级勋章。后来他还担任过国家计划委员会副主任、国防工业委员会副主任和国防工业办公室常务副主任等职，任职期间，他狠抓国防工业建设，为两弹一星的研制作出了极为重要的贡献。由于劳累过度，1967年2月，赵尔陆将军在工作岗位不幸病逝，享年62岁。