129师的几名首长在一起商定了好几个作战方案，其一为129师与344旅协同动作，配合曾万钟第3军攻击敌117联队；其二为配合朱怀冰94师在子洪口、东团城攻击109师团的一个联队；其三为与南下的33师夹攻辽县（这里有敌人两个联队）。
从敌我双方态势来看，第一种方案是最好的。只是大家都对第3军没有信心，怕他们临战撂挑子。朱老总说：“第3军还是有战斗力的，前面阻击战吃力不讨好，他们不愿意打也可以理解。现在是歼灭战，打赢了那是民族英雄，军人荣耀莫过于此，我就不相信他们无动于衷！”
左参谋长插了一句，说：“要是第33师能及时赶到就好了！
彭老总眼睛一亮，说：“对，对，对！查查他们到了哪里，电令他们迅速向129师靠拢！”还嘀咕了一句，说：“我倒要看看郑卫国这小子是不是说一套，做一套！”
根据东路军指挥部的命令，刘师长率129师经东方山涉过浊漳河，到达了段村以北的西黄岩、马牧地区，准备攻击第117联队的左翼。曾万钟第3军则前出蟠龙镇，准备从117联队的右翼发起进攻，并负责阻拦辽县方向的援军。
此时，第117联队浑不知噩运已经降临。在15日白天，联队长柏崎延二郎中佐还率主力3000多人从武乡北犯榆社，企图寻找129师主力决战，没想到再度扑空。由于沿途各村执行坚壁清野政策，日军没有找到一粒粮食，甚至连水都喝不上。
在进犯武乡之前，他们就沿途遭到八路军的袭扰，兵力受损，这次更为沮丧。日军没有找到八路军的踪迹，精力、体力却受到很大的消耗，士兵们也怨声连连，军心不稳。许多官兵写信回家，流露出厌战情绪。现在又缺乏粮草，找不到吃喝，柏崎延二郎中佐只好下令向武乡、段村一带回窜，撤走之前还放火烧了榆社县城。
当时129师师部正在行进途中，刚好看到榆社方向冲天而起的火光。徐副师长说：“鬼子放火肯定不会长住，我看他们是要跑！”
刘师长觉得很有道理，立马命令陈大旅长进行威力侦察。可惜还是慢了一步（日军的徒步行军能力也很强，加上辎重放在武乡，所以行动很快），等负责侦察的先头连赶到榆社的时候，敌人已经南撤。
探明敌人的情况后，刘师长又立即同曾万钟第3军商定了协同围困武乡敌人，打击增援的作战方案，并急电上报八路军总部。朱、彭老位老总立即回电表示同意，并指示如有可能，便截住这股日军歼灭之。接到总部回电后，刘师长立即命令先头连向武乡赶去，准备赶在日军赶到之前占领武乡。
先头连迅速向南追击，结果还在半路上就看到武乡县城也燃起了大火。战士们没办法，只好进城救火。不一会儿，躲在城外的乡亲们也赶来了，并且告诉战士们说日军已经在两个小时前撤离。而此时，八路军第129师的主力距武乡县城还有十几里路呢。
等先头连把情报一级一级传上去，到了晚上十点，刘师长才接到陈大旅长的电话。陈大旅长说：“报告师长，据监视部队报告，段村和武乡城里的敌人已于黄昏向东撤离，沿着浊漳河往襄垣方向去了，其后卫距我部主力约三十里。”
刘师长急道：“敌人黄昏就跑了，你怎么现在才报告！”
陈大旅长也十分懊恼，说：“师长，我也是才接到情报啊！鬼子走之前把武乡也烧了，先头连都忙着救火去了！”刘师长一听差点没被气死。
徐副师长见状忙问道：“师长，是不是敌人已经南逃？”
刘师长生气地说：“敌人大概是察觉了什么，现在已经跑到三十里开外去了。”
徐副师长说：“师长，你别着急。鬼子辎重骡马多，他们从来不习惯于夜间行动。这一次，他们又不是逃命，更不知道我们距离他们只有30多里路。他们背的包袱大，又有牛车，走不快的。我们现在是轻装.行军速度要比鬼子快得多。只要不被鬼子发觉，到天亮就可以追上。”
刘师长一听，说：“好，伤其十指，不如断其一指，咱们就先歼灭这一路！传令下去，各部沿浊漳河急袭，务必将敌117联队歼灭于河谷狭窄地区！”
命令很快传达了下去，可要命的是，在这个节骨眼上，769团和689团的电话竟然一直打不通，事后查明是电话线遭到了破坏。
刘师长只好命令陈大旅长先率771团、772团先行追击。771团在浊漳河右翼，772团在浊漳河左翼，两部沿着河岸山地迅速向敌人追去。769团和689团还是联系不上，主力团一直随师部行动，所以没有配电台，刘师长只好命令骑兵通讯员快马去传达命令，让689团沿左翼迅速跟进，769团则充作预备队，尾随左翼队后跟进。
这里解释一下，因为敌人是在浊漳河左翼，所以刘师长在这边放了三个团。右翼只需要防止敌人涉河逃跑，压力相对要轻一些，所以只有一个团。
部队追了一夜，4月16日清晨，陈大旅长率772团一直追到了武乡以东的南科窑、大小牛家庄，但还是没有发现敌人的踪影。
陈大旅长发火了，说：“继续追，这帮鬼子在咱们根据地杀人放火，完事了就想跑，没这么容易！”
部队没追多远，一名眼尖的战士突然指着左前方说：“看，敌人！”大家顺着他的手指一看，果然在一处叫巩家垴的高地上发现了敌人的后卫警戒部队。