徐州，自古以来就是兵家必争之地，对于日军来说，一旦占领了徐州，就能全面占领华东地区，其次也可以沿着陇海铁路西进由郑州直达武汉，南京失守之后，武汉是当时中国的转运基地，许多的重武器都是由武汉再转移到重庆的，可以说当时武汉要是失守，那么日军就会加速灭亡中国。
与此同时 ，第 12 军之 81 师也直取汶上 ，于 12 日晚由开河镇 渡过运河 ，一部从城西北攻入汶上城内 ，与日军展开激烈的巷 战 ，其余部队攻城未成 ，死伤惨重 ，战斗进行到 13 日， 日军的 增援到达 ，双方又在城内爆发激战 ，在日军战机的助战下， 国军攻势受阻 ，被迫向运河撤退。
1948年底，国共两军在苏北皖北大平原形成对垒态势，淮海战役即将打响。蒋介石提出的观点是“党国存亡，在此一战”，毛泽东则说“淮海一战，江南无大仗”，双方都是决战姿态，这么大规模的战役，也只有在徐州才能进行。
徐州会战后期作战台儿庄战役后，日军大本营决定以少数兵力正面牵制中国守军，主力向西迂回，从侧后包围徐州，以实现其消灭第5战区主力和占领徐州的企图。国民政府军事委员会迅速向徐州附近调集了64个师又3个旅的兵力计60余万人，与日军决战。
