1905年，杨国夫出生在安徽霍邱县的一个穷苦之家，早年有过一段非常艰辛的经历。1927年冬，22岁的杨国夫在当工人时受进行思想影响，主动加入了农协，从此走上了革命道路。

起初杨国夫担任秘密交通员，主要负责帮忙传递情报，在1929年成为了红四军的一名战士，并在第二年就被批准入党了。让人没想到的是杨国夫虽然没有上过军校，但是他会打仗，在经历过几次战斗之后就能够指挥战斗了。

1930年5月，杨国夫成为了红军的一个连长，由于作战勇猛加上多次立功，杨国夫在红军中晋升很快，在红军长征之前他就已经是团长了。长征路上，杨国夫打了许多硬仗恶仗，不愧为红军悍将。

其中要数涪江铁桥争夺战打得最为艰险，一旦不能及时渡江，红军就要面临敌人的前后夹击，因此夺桥之战只能胜。在接到任务之后，杨国夫为表战斗决心，立下了军令状，做好了必死的准备。

杨国夫亲自带着突击队进行夺桥战斗，涪江铁桥被成功拿下，杨国夫也幸运地活了下来，此战让杨国夫名震全军。后来在过草地的时候，杨国夫再次立下了一个大功，当时杨国夫是随一方面军过草地。

在一、四方面军会师之后，杨国夫被编入了红一方面军红三军团，担任红10团的副团长，虽然职务有所降低，但是杨国夫并不在意，在过草地时他亲自带着一个营的战士走在队伍最后面，负责收容任务。

这看似是属于后勤工作，却一点也不轻松，收容队对于一些落单、受伤或是走散的红军战士来说，这是他们最后活下去的希望，否则在荒无人烟的草原上他们就只能是等死，因此收容队的任务一点也不轻松。

经历了6天的行军，大部队终于走出了草地，最后在统计人员的时候，杨国夫带领的收容队仅减员2人，堪称一个奇迹，受到了上级的表彰。由此可见，杨国夫带兵很有一套，在艰苦的环境下尤其能彰显指挥者的水平。

抵达陕北之后，一路上立下大功的杨国夫不仅没有升职，反而降职了，他被任命为红10团2连连长。原来由于红军在经历长征之后减员，部队改编之后杨国夫就被降职了，不过他仍受到伟人的器重。

抵达陕北之后红军打了第一次战斗，即直罗镇战役，当时伟人亲自指挥杨国夫所在的连队，足见伟人对杨国夫的器重。战后杨国夫被安排进入红军大学，经过了专业的学习之后，杨国夫被任命为第12团团长。

日寇全面侵华之后，组织并没有第一时间让杨国夫去抗战前线，而是安排他进入抗大学习，直到1938年6月才把他派往山东，开展敌后根据地和武装发展的建设工作，为抗战胜利做出了重要贡献。

抗战胜利后，杨国夫被派往东北战场，杨国夫先后担任过师长、纵队副司令和四野第43军副军长等职，几乎打遍了东北。随军南下之后，杨国夫留在了江西工作，1955年，杨国夫被授予中将衔。