1946年1月，为加强山东地区我军的领导力量，中共中央特别指示，撤销津浦路前线指挥部，并将在鲁所属部队统一改编为山东野战军，如此，山东野战军便应运而生。山东野战军是后来华东野战军的前身部队之一，这支部队和1945年成立的华中野战军，共同接受华东局的领导。
1946年7月中旬，国民党徐州“绥靖”公署主任薛岳指挥5个整编师共12个旅的兵力进犯淮北地区，山东野战军趁敌人立足未稳、驻地分散之际，在朝阳集歼灭国民党军第92旅全部和第60旅一部，是山野进入淮北地区的第一个胜仗。
遵照中央军委的指示，陈毅率领山东野战军5万人马，于7月从鲁南南下徐州、蚌埠地区准备歼灭进犯两淮的敌军，7月底山东野战歼灭国民党军92旅全部，60旅一部分共5000余人，我军仅伤亡800余人，取得了朝阳集战斗的胜利。
为迎击敌人的全面进攻，中央军委、毛主席确定的战略计划是:以山东野战军主力南下淮北路东地区，华中野战军主力兵出淮南，以晋冀鲁豫野战军进击陇海路徐州至开封段南北地区，三路大军外线出击，会师于徐州以南的津浦线。
1948年2月，时任华野二纵副司令员张震，被二纵司令员兼政委韦国清叫来，韦神秘地说，你的工作要有重大变动，听说是毛主席亲自决策的。张震知道韦国清素来不开玩笑，他大概也猜到了，华野准备进一步开辟淮北老根据地，张震之前就在淮北工作了很久，大概是中央批准了华野的建议。
