该部于1928年10月成立，同年11月21日国民政府公布组织条例，掌管全国陆海空军行政事宜，设部长1人，政务、常务次长各1人，参事若干人，秘书若干人，初置总务厅及陆军、海军、航空、军需、兵工等署和审查处。
“一寸山河一寸血，十万青年十万军”，抗战末期这句非常有名的口号，前一句是全民抗战的真实写照，后一句只是一句口号，十万青年十万军所指的国民党青年远征军，既没有远征，也没有向日军开过一枪，因为就没见过鬼子。
抗战胜利后，国民党部队进行了一次裁军，为解决编余军官，成立（编余）“军官总队”，先后隶属于陆军总部、军政部，并于1946年6月成立“中央训练团”，是个级别很高的单位。但笔者觉得，当时国民政府是应当把它视为过渡性、善后性单位存在的。
何应钦是黄埔系第二号人物，在国民党内的声望用“一人之下，万人之上”形容一点也不为过，但是这样一位军政大佬却一直受蒋介石排挤，甚至很长一段时间内退出了国内政治和军事舞台，其主要原因是何应钦曾在蒋介石最为需要他的时候两次背叛。
