西汉初年,刘邦将一位宗亲之女封为公主,嫁给了匈奴首领冒顿单于,并约为兄弟。匈奴后人遂以刘为姓。东汉末年,匈奴首领于扶罗率兵援助东汉讨平黄巾军,董卓之乱时,于扶罗趁机侵略中原,被曹操多次击败,后归附曹操。曹操将南匈奴分为南北左右中五部,其中左部单于叫刘豹。
在八王之乱中,外族进入中原,公元311年,即西晋怀帝永嘉五年,铁弗匈奴刘聪遣石勒、王弥、刘曜领匈奴军队与西晋作战,宁平城一战歼灭西晋主力,杀太尉王衍及诸王公,第三次进攻洛阳并将之攻破,俘获晋怀帝司马炽,杀王公士民三万余人。