在家里不受父母待见,用他父亲刘太公的话说是:“文不如你二哥,种地不如你大哥,你混个鬼呀!”,好在他脸皮厚,又会来事,所以还是在外面交结了一班过命的铁杆兄弟,如县长助理兼组织部长萧何、副监狱长曹参、杀狗的屠夫樊哙、篾匠周勃、马车司机夏候婴等等,还有一个侠客张耳。