从1940年10月起，百团大战进入了第三阶段，回过神来的日寇调集重兵，对八路军根据地进行疯狂报复。这月下旬，日军36师团冈崎大队500多人，误闯误撞来到了八路军总部设在辽县、武乡县和黎城县交界地区的黄崖洞兵工厂。这个兵工厂是八路军总部在华北敌后建立的最大的武器弹药生产基地，每个月能生产400多支步枪和大量子弹，曾被朱总司令誉为八路军的“掌上明珠”。

得知冈崎大队孤军深入后，彭总调集了八个团的兵力直奔黄崖洞，准备将该股日寇全歼。冈崎十分狡猾，眼见自己就要陷入我军的重围之中，匆忙撤离黄崖洞，率部占据了关家垴和柳树垴两个制高点，并构筑了环形工事。10月30日凌晨3点左右，我军对冈崎大队发起了进攻。经过两日激战，付出了2000多人的伤亡代价却没能将敌人全歼。那么兵力占据绝对优势的八路军为何消灭不了这500日军呢？这三点原因太致命。

第一个原因是受地形限制，兵力无法展开。关家垴是群岭环抱的一个山岗，山顶是一块方圆几百米的平地，很适合排兵布阵。它的北面是断崖陡壁，下面是一条深沟，东西两侧都是陡峭的山坡，无法攀爬，只有南坡稍微平缓一些，可以作为我军发进攻的路线。山道本就崎岖，日军又在这里布下了密集的交叉火力，我军根本无法展开，兵力优势也就体现不出来了。如果没有地形限制，四面都可以进攻的话，冈崎大队就算战斗力再强，也必将全军覆没，毕竟他的兵力和我们相差太多。

第二个原因是日军构筑的防御工事十分高明。参加关家垴战斗的28团团长王耀南回忆称：“冈崎察觉我军的动向后，迅速在关家垴高地上构筑了环形工事，山坡下围绕高地挖了300多个散兵坑。散兵坑内日军依托高地火力掩护，形成第一道防线。日军利用关家垴中心的窑洞作指挥部，改造靠近断崖的窑洞作暗堡；在通往山下的唯一坡路两侧，各有四个窑洞被日军改造成火力极强的暗堡，形成极强的交叉火力。”

需要说明的是，日军的散兵坑都是猫耳洞式样的，同时散兵坑的前边还修有防手榴弹壕。战斗中，我军投掷的手榴弹很大一部分落在了防弹壕内，只有少部分投进了散兵坑，而散兵坑又是猫耳洞式样的，极大减弱了手榴弹爆炸带来的伤害。加上当时我军用的手榴弹大部分都是根据地自己造的，由于缺乏火药，所以爆炸的威力并不大，因此关家垴战斗中，我军投掷的手榴弹并没有给日寇造成太大的伤害。

第三个原因是八路军缺少重武器。百团大战中，我军发起的战斗多是以破袭战为主，很少主动攻击日寇的炮楼，这是为啥呢？最主要的原因是缺炮缺炮弹。关家垴战斗中，面对日寇的环形工事和梯层火力，120师几乎把自己全部的家底都拿了出来，可惜炮弹很少，而且大部分都是迫击炮，只能提供曲射火力，对占据窑洞死守的日寇杀伤力十分有限。反观日军，虽然只是一个大队，却带有3门山炮，并在战斗中发射了246发山炮炮弹，敌我双方的火力差距一目了然。

地形不利、火力不占优，对方还有坚固的防御工事，这就决定了关家垴战斗不好打。但即便如此，我军依然歼敌400余人，并将冈崎击毙。冈崎大队幸存的老兵才田升后来回忆说：10月31日下午3点左右，八路军已经攻上了关家垴主阵地，他们幸存的60余人退守窑洞，准备玉碎，这时八路军忽然停止攻击撤退，后来才得知是自己的援军到了。关家垴战斗，虽然没能全歼冈崎大队，但沉重打击了日寇的嚣张气焰，此后，日军再也不敢以一个大队的兵力孤军深入我根据地了，从这一点来看，关家垴战斗也是值得的。