1946年1月,为加强山东地区我军的领导力量,中共中央特别指示,撤销津浦路前线指挥部,并将在鲁所属部队统一改编为山东野战军,如此,山东野战军便应运而生。山东野战军是后来华东野战军的前身部队之一,这支部队和1945年成立的华中野战军,共同接受华东局的领导。
1946年7月中旬,国民党徐州“绥靖”公署主任薛岳指挥5个整编师共12个旅的兵力进犯淮北地区,山东野战军趁敌人立足未稳、驻地分散之际,在朝阳集歼灭国民党军第92旅全部和第60旅一部,是山野进入淮北地区的第一个胜仗。
遵照中央军委的指示,陈毅率领山东野战军5万人马,于7月从鲁南南下徐州、蚌埠地区准备歼灭进犯两淮的敌军,7月底山东野战歼灭国民党军92旅全部,60旅一部分共5000余人,我军仅伤亡800余人,取得了朝阳集战斗的胜利。
为迎击敌人的全面进攻,中央军委、毛主席确定的战略计划是:以山东野战军主力南下淮北路东地区,华中野战军主力兵出淮南,以晋冀鲁豫野战军进击陇海路徐州至开封段南北地区,三路大军外线出击,会师于徐州以南的津浦线。
1948年2月,时任华野二纵副司令员张震,被二纵司令员兼政委韦国清叫来,韦神秘地说,你的工作要有重大变动,听说是毛主席亲自决策的。张震知道韦国清素来不开玩笑,他大概也猜到了,华野准备进一步开辟淮北老根据地,张震之前就在淮北工作了很久,大概是中央批准了华野的建议。