1928年4月下旬，湘南起义胜利后，避为了 保存实力，避免国民党对起义军发起的“围剿”处在不利情况下。朱德、陈毅率部上井冈山与毛泽东领导的部队会师，两支队伍会师后，编为中国工农红军第4军。朱德担任军长，陈毅担任政治部主任，毛泽东担任党代表，粟裕被任命为第28团第5连党代表。

国民党反动派在湘南对起义军发起“围剿”扑空后，同年6月又集中了10个团的兵力对井冈山根据地发动了“围剿”。在交锋中，因战斗计划需要，红军主动撤退至根据地宁岗后，朱德军长亲自指挥部队正面迎敌。在这次战斗计划中，粟裕带领的连队负责控制老七溪岭。按计划，粟裕带领的部队要占领老七溪岭的制高点的，但是，当粟裕率部迂回到达时，发现老七溪岭的制高点已经被敌人占领了。刚开始，他带着部队对敌人发起进攻，试图攻破敌人，但是由于敌人占据地势优势，粟裕他们的攻击并没有奏效。但是，这并难不倒粟裕，他灵活地运用游击战术，利用午后时分敌人疲惫松懈的时候，他带着9名战士隐蔽接近敌人，然后趁敌人不备突然发起进攻，将敌人的防御突破了，在其他战士还没有到达之前，占领了并控制了老七溪岭制高点，随后，他又做了一个大胆的行动，他留下留名战士在老七溪岭控制制高点，自己带着三名战士越过山顶，乘胜追击，对敌人穷追猛打。

果然，过了山坳，粟裕他们就发现了有百十个敌人聚集在一起休息。粟裕凭着过人的胆识带着三名战士冲了上去，大喊：“枪放下，你们被俘虏了！”而且就在此时，守卫山顶的司号员接受到讯息，默契的灵机一动吹起了冲锋角，敌人不知道他们的底细，加上粟裕强大气势的压迫下，就真的以为以被包围，但其实，加上他和3名战士，他们只有四个人。可是他们还是被粟裕拿捏着乖乖缴械后，又被粟裕命令把枪栓卸下来，他和三名战士背着枪栓，让俘虏背着百余把空枪回营地。这次老七溪岭战役中，粟裕凭借他过人的胆识和气场，按计划控制了老七溪岭制高点的同时还俘虏了一百多名敌人。战后，直接被调任为第三连连长。

这一年，面对敌人对我方根据地的“围剿”行动，1929年1月，我方终于决定实行战略性出击，粉碎敌人对井冈山根据地的“会剿”，扩大苏区，毛泽东、朱德带着红4军主力进攻赣南、闽西。粟裕也在这年里跟着部队，在江西、广东、福建边境地区转战，而且表现相当出色，不久，就被调任为第一纵队第二支队的政委。

同年12月底，国民党反动派不余余力地集中12个团的重兵，企图将我方在福建、广东、江西三省分七路进行“会剿”。而此时的红军已经进入一个新的发展时期，1930年1月粟裕帅部离开福建上杭古田，向东韶进抵开始对敌人对红军形成的弧线包围进击。2月上旬，红四军采取了敌深入的方针，将敌人引进水南、富田一线，抓住有利战机，发起猛烈攻击。而粟裕带领的部队也在向富田之敌进攻。而也是在这场战斗中，负伤了，一颗弹片永远地留在了他的颅骨里面了。

但这并不影响他驰骋战场，同年7月，他被调任为红四军、红六军、红12军合编成的一军团中，担任红12军第五支队支队长。由赣南向湖南进军。同时协助兄弟部队奔袭文家市，歼敌三个团又一个营。

“九一八”事变发生前夕，同年的10月，蒋介石为不惜调集八个师，10万的人马，亲自上阵指挥，向中央苏区发起了第一次“围剿”，此时的红军也进入了大规模的“反围剿”阶段。这年，粟裕23岁，而此时的他，已经凭着出色的战绩成为红22军64师的师长。在红军选定鲁涤平的嫡系部队谭道源的第五十师和张辉赞的第十八师作为歼灭的作战计划中。粟裕为了证实志骄意满的张辉赞是否加速向龙冈、君埠前进，为我军预先设伏兵准备的情报。带着两名战士乔装进入敌营，在敌营中，他获取到了张辉赞决定加速前进，只是还没有确定要不要走龙冈。

确认敌情后，粟裕回到营地向毛泽东详细汇报后还提出了作战计划，根据张辉赞屡次入瓮的经验，他建议利用张辉赞的自大求胜心切，红军在龙冈提前设伏，以一支小部队作为诱饵，将张辉赞的第十八师引入龙冈，然后一举歼灭第十八师。毛泽东采纳了粟裕的建议，并制定了作战方案，各部分头行动。30日上午，张辉赞按计划进入了伏击圈，粟裕的64师奉命进行左路包抄。就在当日的上午十时，一切准备就绪只是，在毛泽东的一声令下，红军战士以猛虎扑羊之势，同第十八师决战到黄昏，最终歼敌9000余人，并活捉了其师长张辉赞。

这次作战中，我军大获全胜，粟裕又展露了他出色的军事天分，毛泽东都不禁感叹：“活捉张辉瓒，还是粟裕有办法！

在毛泽东的指挥下，又粉碎了敌人的第二次、第三次的”围剿”23岁的粟裕，跟着毛泽东在炮火硝烟中不断成长。

1933年2月，粟裕改任了担任由红一方面军整编，由闽浙赣10军和红13师合编而成的红1军参谋长，此时敌人又对红军发起了第四次“围剿”，在周恩来，朱德的指挥下，粟裕率11进军威胁强制敌人，在黄陂、草台冈战役中大批歼敌，取得了第四“反围剿”的胜利