建国之初，刘振杰是聂荣臻元帅的秘书之一，在总参谋部的工作给刘振杰留下了深刻的印象。他回忆:1950年2月，我在华北军区司令部当作训参谋，一纸调令飞来，上面盖着代总参谋长聂荣臻的大印，把我调到了总参谋部，担任聂荣臻的秘书。
2016年全面深化军队改革以前，中央军委辖下的总参谋部与总后勤部，总政治部，总装备部共称为“军中四大部”。这其中，四大部中要数总参谋部权职最终，也最受瞩目。总参谋部要负责指挥，组织全国武装力量的建设活动和军事行动，还有一大批直属的军事院校，不仅属下部门众多，人员也多。
1953年5月上旬，主持军委日常工作的彭德怀同副总顾问柯托夫中将说，过去我们各野战军的领导机关，比中央军委的机构还要健全。现在国家开始了有计划的建设，不需要再分散了，各系统都要加强中央的领导，军队系统也必须加强。
这也是非常正常的，毕竟他的能力也是与他的职位相匹配的，也是大家众所周知的，然而不正常的是，中央却给他配备了11位副总参谋长，这11位副总参谋长也不乏与他同级的大将，但11位副总参谋长中只有4位来上班，7位都没有来。
