自军衔设立之初,元帅就作为最高一级的军衔在各国军队的实行,不过多在战争时期。最早是由苏联红军设置,1955年我国也设置了大将军衔,不过后来逐渐取消,但是作为苏联的原创,俄罗斯军队继续沿用了这一制度,目前最高的军衔仍是大将,一般授予国防部长、总参谋长、军区司令等高级军官。
1988年7月1日,第七届全国人大常委会第三次会议通过了《中国人民解放军军官军衔条例》,同年9月23日,国务院、中央军委颁布了《中国人民解放军现役士兵服役条例》,自此一个完整的中国人民解放军新军衔制度诞生。