几乎就在张自忠取得临沂大捷的同时，矶谷廉介的第十师团向藤县扑去。
津浦正面矶谷廉介第10师团自上月上旬占领兖州、济宁、邹县一线后，非常轻狂，认为当面中国军队不堪一击，攻占徐州易如反掌，便沿津浦路向南突进。
3月15日，日军一部抵滕县附近。第22集团军总司令孙震急令预备队、第122师长王铭章率部死守滕县，等待汤恩伯军团增援。王铭章仓促上阵，守城兵力不过两个营，于是紧急调兵遣将，急令第366旅由太平邑赶赴滕县增援，但该旅在城头村附近同日军数千人遭遇，被截成数段，仅1个营冲进滕县。
16日黎明，日军步骑约5000人迫近滕县东郊，首先向守备滕县东关的警戒部队进攻。
8时许，敌集中炮火向滕县东关、城内和西关火车站射击，同时，敌飞机10余架飞临滕县狂轰滥炸。
驻在西关的王铭章在敌轰炸开始后，通过电话询问情况，随后跑步进城，他判断东郊之敌即将大举进攻，大战迫在眉睫，便昭告全城官兵：“吾决心死守滕城，我和大家一道，城存与存，城亡与亡。”随后命令将南北城门堵死，东西城门暂留交通道路，也随时准备封闭。师部和直属部队也由西关移进城内。
日军自8时开始，持续炮击了两个小时，10时许停止射击，沉寂了约30分钟，突然集中炮火猛烈轰击东关南半部寨墙的突出部，掩护步兵进攻。
守城官兵毫不畏惧，沉着应战，隐蔽在缺口两侧，当敌兵约五六十人刚要向缺口冲锋时，向敌猛投手榴弹，将敌大部歼灭。就这样，担负缺口段守备的一连，接连打退敌军三次冲锋，而自己也伤亡近百，由预备队替换下来。
下午2时，日军再向东关东北角猛攻；5时，又猛攻东关门，均被守城部队击退。日军遗尸累累，守军亦伤亡惨重。当晚，战斗停止。
滕县正面45军部队经过3天浴血奋战，伤亡过半。16日正午，正面阵地被敌突破。45军从滕县两侧撤退。
当晚，41军124旅中途遇敌，绕道到达临城。王铭章根据兵力变化情况，重新调整部署。同时，命令各部抓紧补充弹药，构筑工事；在城墙下隐蔽的部队，每班扎一架云梯，随时准备登城反击。
援军汤恩伯部王仲廉军15、16日陆续到达临城，先头部队1个团刚下火车孙震以滕县情况紧急，令其前往增援。该团在南沙河遭到围攻滕县日军一部攻击，不支溃退，其他各部仅在南沙河警戒，其军部到达后，得知滕县正受强大敌军围攻，便借口机动作战，将部队迂回向滕县东北峰山以东地区开去。
于是南沙河之敌向前推进，22集团军总部不能抵抗，遂后撤至运河南岸利国驿，从此与滕县守军失去联络，滕县完全陷入日军包围之中。
此时还在临沂的华毕成来不及请示战区长官部，直接以第五战区副司令长官的名义给王铭章发电：“若援军汤恩伯部不能抵达，122师可在迟滞敌进攻后，相机突围撤退。”
王铭章拿着电报，苦笑道：“华毕成还真是宅心仁厚！刘兆慕你找了个好主子！”
旁边的参谋军官问道：“师座！那我们怎么办”
“给华副司令回电，国家有难，匹夫有责！我师以抱定与藤县共存亡之决心，不成功便成仁！”