一九三八年五月，贺龙同志执行毛主席、党中央的决定，选派由太原诚成中学的学生组成的四支队，随八路军一二〇师三五八旅七一五团组建的支队，在李井泉、姚喆同志率领下，于一九三八年八月上旬，由山西五寨出发，经过近一个月的艰难夜行军，于九月初进入大青山和杨植霖、高凤英领导的蒙汉游击队在西铺窑子村胜利会师。
中国共产党领导的部队在内蒙古地区活动始于1938年。1938年7月，已在晋西北开辟了抗日根据地的八路军一二〇师，根据中央军委和毛泽东的指示，抽调本师三五八旅七一五团和师直属骑兵一个连组成八路军大青山支队，与第二战区总动委会游击第四支队、晋察绥边区工作委员会一起开赴绥远，创建大青山抗日游击根据地。
一九三八年八月，遵照党中央和毛主席的指示，贺龙、关向应同志命令李井泉、姚喆等同志率领一二〇师三五八旅的七一五团和刘墉如率领的以太原成成中学师生游击队为基础的四支队，挺进到绥远省境内的平绥铁路南北大青山和蛮汗山地区，开展游击战争，建立抗日游击根据地。
1938年6月，第120师遵照中共中央军委关于在平绥铁路以北，1938年120师一部进入大青山开辟根据地沿大青山脉建立游击根据地的指示，以第358旅第715团、独立第4支队和师骑兵营一部共2300余人，组成大青山支队，三五八旅旅政治委员李井泉任支队长兼政。
