当日军增援部队即将抵达上海的关键时刻，由宋希濂率领的德械师36师于8月17日夜抵达战场。与此同时，蒋介石调来当时中国仅有的战车营，电令36师协同87师歼灭当面之敌。张治中将攻击目标锁定在防守相对薄弱的汇山码头。

8月19日下午5时，87师突入百老汇路。为扩大战果，张治中决心截断敌人左右两翼联络，此作战计划被称为"突破攻击"。21日晚21时，张治中下令第四次进攻：88师在虹口佯攻；战车一连配合36师108旅216团沿兆丰路与公平路推进；二连配合87师21旅52团向杨树浦日租界推进；24式战车连掩护步兵冲击日军阵地。

由于缺乏步坦协同经验，坦克与步兵部队推进脱节。日军利用两侧楼顶火力点疯狂扫射，导致步兵伤亡惨重。随军记者如是记录道："都这个地步了，冲了15趟，但步兵跟不上，无法占领阵地。从第二次开始，敌人就把战车封锁后调回来，把战车都打坏了，陆上牺牲惨重，海上也牺牲惨重。"正如后人所言："我们的抗战是'一寸山河一寸血'，一点都不夸张。"

在215团、216团前赴后继的猛攻下，36师终于冲过百老汇路，攻入汇山码头外围。216团团长胡家骥身中五弹仍带伤冲锋。然而码头铁闸门阻挡了前进道路，当士兵攀登铁门时，日军已在码头内部设置交叉火力网，216团遭受重大伤亡，被迫撤回。此战暴露出巷战中我军经验不足及缺乏重型武器的致命弱点。

与此同时，87师攻占两处日商工厂，拔除沪东重要据点，但仍未突破公大纱厂防线。8月23日凌晨3时，36师再次发起冲锋：以5辆战车为前导，步兵跟进，于凌晨5时再度攻占汇山码头阵地。但日军随即投掷燃烧弹，整片码头陷入火海，数百将士葬身火海。36师被迫撤回唐山路一带，三个营仅数十人生还。

尽管如此，中国军队连日攻击已成功隔离日军防御体系，将其主力压缩至海军陆战队司令部和公大纱厂等少数据点。若此时投入更多地面部队，或可创造对列强军队的罕见歼灭战。这个时刻，正是淞沪会战期间中国军队最接近胜利的瞬间。

然而命运在此刻转折。8月23日凌晨，日本陆军第十一师团在狮子林和小川沙登陆，第三师团先头部队在吴淞登陆，上海派遣军司令松井石根大将亲临指挥。为阻击北面登陆之敌，张治中忍痛下令36师撤回。当浴血奋战抵达汇山码头的216团三营接到撤退命令时，营长顾新伟悲愤难抑，几欲拔枪自尽。

至此，中国军队在市区内的围攻战宣告结束，更惨烈的反登陆战即将开始。