1938年5月下旬至6月初，日军在占领徐州后沿陇海线（西起甘肃兰州，东至江苏连云港）西进，准备夺取郑州，进攻武汉。为了阻止日军前进，蒋介石下令炸开郑州东北花园口黄河大堤。

民国二十七年（公元1938年）6月9日凌晨， 经过持续两天两夜的挖掘，黄河花园口大堤被掘开。与此同时，郑州屏障中牟县失守，为有效阻拦日军南下西进，国民政府命令前线部队使用烈性炸药彻底炸毁花园口大堤。上午八时，随着数声巨响，黄河决堤，滔滔洪水在短短数日间就淹没了万顷良田，夺去八十余万百姓生命，五百余万人被迫流亡他乡。

虽然黄河决堤确实阻止了日军侵略步伐，使其无法通过陇海线西进，也不可能经由平汉线及淮河南下，但却没料到日军会转而沿着长江推进，很快就攻占安庆、九江，至于武汉三镇，虽早已布防且顽强抵抗，最终依然失守。日军比原定计划推迟三个多月才攻占武汉。由此可见，黄河决堤对日进军步伐起到了一定的拖延作用，但却并没有当局之前预想得那么严重，付出这么大的代价显然也不合算。更令人唏嘘的是，当局在下令炸毁花园口大堤后，密令时任河南省主席程潜对外宣传为“敌机炸毁黄河堤”，将黄河决堤全部罪责推给日本侵略者。抗战胜利之后，国民政府这一极其不光彩的“抗敌”手段才得以大白于天下。

抗战胜利后，国民政府决定修复花园口大堤，引黄河回归故道，并特设黄河决口复堵工程局，由黄河水利委员会领导。然而花园口以下的黄河河床已断流8年，由于种种原因，堤防1/3左右已遭破坏，大约40万农民在此垦作，一旦黄水回归故道，势必造成新的灾难。

3月1日，花园口工程开工，因涉及到共产党领导下的解放区，国共双方关于此事的谈判也随之开始，参加谈判的有国民政府黄河水利委员会和行政院善后救济总署的代表，有中共方面冀鲁豫、渤海区代表，还有联合国善后救济总署代表。中共方面的立场自始即简单明确：为免除黄泛区人民的痛苦，同意黄河堵口归故道；但为避免造成新的灾难，须等故道堤防修复后，再行堵口放水。国民党方面则回避复堤问题，强调堵口的重要性。双方争执的中心为堵口日期问题。

国共双方于3月下旬开始谈判，先后在4月7日、15日达成《开封协议》与《荷泽协议》，商定堵口与复堤同时进行，堵口合龙日期则视复堤情形而定；迁移居民由行政院发给迁移费；豫鲁两省修防处由中共代表参加。国民党方面实际力图在大汛前完成堵口工程，电令工程局加速施工，务必于7月1日前完工。解放区方面为了求得堵口复堤问题的合理解决，又在5月派代表赴宁。

1946年5月18日，国共双方在南京达成合作修复黄河花园口大堤的协议，即《南京协议》。双方同意下游复堤工程尽快开工，材料、工粮款由国民政府从速拨给，堵口工程以不给下游带来水害为前提。