第四纵的前身是在山东胶东地区坚持抗战的山东人民抗日游击第5支队,第5支队是由理琪领导的天福山起义时成立的山东人民抗日救国第三军和掖县抗日游击第三支队合编的,当时5支队的司令员是高锦纯,副司令员是吴克华。