1948年5月，重病几年的徐向前基本痊愈，以华北军区副司令员的身份担任华北野战军第1兵团司令员兼政委，副司令员兼副政委是周士第。5月中旬，第1兵团攻克临汾，阎锡山慌了，急忙布防保卫晋中，固守太原。可仅仅1个多月过后，徐向前攻克晋中，歼灭阎军10万余人。接着，徐向前兵临太原城下！
在太原战役前，思想进步的黄樵松军长原本打算起义，当时我军预定派出联络的干部时时任华北军区第一兵团政治部主任的胡耀邦，但当时晋夫强烈建议要求先派他去联络，本来整个过程很顺利，不料黄樵松手下戴炳南把起义的事儿报告了阎锡山，黄樵松直接被阎锡山诓骗逮捕关押，晋夫按照预定联络方式去联络，不幸一同被捕。
太原，是山西的省会，也是山西王阎锡山长期统治山西的中心，太原三面环山，南面是平原，地处汾水之滨，东面是太行山，西面是吕梁山，北面是云中山和系舟山，天然的地理环境使得太原城易守难攻，阎锡山不同别的军阀，他没有对外扩张的野心，只想保住山西这块一亩三分地，把太原视为自己的独立王国。
