其实，在晚清实行军衔制时，就有陆海军大元帅一职，是由光绪皇帝兼；光绪病逝后，宣统皇帝即位，因他当时才3岁，大元帅之职由其父摄政王载沣兼。
而民国时期的大元帅也不止孙中山一人。北洋政府历届元首（总统或执政），均兼陆海军大元帅。1924年11月，孙中山督师北上，国民党元老谭延?、胡汉民在广州先后代理大元帅职。张作霖在北京组织安国军政府，宣誓就任“中华民国陆海军大元帅”。张作霖的大元帅也是一种实际职务名称，其权力相当于实行“内阁制”国家的总统。
1934年3月溥仪在日本帝国主义的扶持下，在长春当上了“满洲国”儿皇帝，并兼“满洲国陆海军大元帅”。
1937年7月“七七事变”发生后，抗日战争全面爆发。8月12日，国民政府国防最高会议及党政联席会议决定，军事委员会委员长蒋介石为中华民国陆海空军大元帅，即最高军事统帅。蒋介石是旧中国最后一位大元帅。
以上这些大元帅都不是军衔。如蒋介石就任大元帅时，军衔仍为特级上将，直到1975年蒋在台湾去世时，其特级上将的军衔都未曾改变过。
（一）军队官员分类和军衔等级区分
1931年4月国民党政府颁布“陆、空军军官佐及士兵等级表”，军队官员仍分为军官、军佐两类。军官军衔仍分为三等九级，并沿用北洋政府时期的衔称。随着空军的发展，增设航空军官，这是中国第一次设置空军军衔(实际佩带是1933年2月)。军佐仍不设上等第一级，故最高军衔为中将，在军佐衔称上取消了原来合有职称的内容，改为军衔加专业勤务字样。例如，军需总监改称军需中将，一等军医正改称军医上校，三等司药正改称司药少校，一等兽医改称兽医上尉，其余类推。少尉军官之下仍设准尉一级，与准尉同等官称准佐，准尉和准佐均“不列入官等”。士兵亦仍分六级，除废除掌工、鞍工、靴工等烦琐的名称外，基本沿用原衔称。 1934年7月和1935年1月，国民党政府先后重新颁布“陆海空军官制表”和“陆海空军士兵等级表”，陆军增设通信兵衔，空军增设机械、军需、军医衔，海军兵衔改为一等兵、二等兵、三等兵，并在三等兵之下增设一等练兵、二等练兵。至此，陆海空三军各自形成独立的军衔体系。另外，军佐又恢复了北洋政府时期含有职称内容的衔称，一直沿用至1949年。
1935年3月，国民党政府颁布“上将任官施行条例”和“特级上将授任条例”，把上将衔分为三级：一为二级上将，又称三星上将，授予“建有殊勋”的陆海空军中将；二为一级上将，又称四星上将，授予“再建殊勋”的陆海空军二级上将(相当于元帅衔)；三为特级上将，又称五星上将，授予“陆海空军最高军事长官”(相当于大元帅衔)。经过以上充实、修订，国民党军队军官军衔计三等十一级，军佐军衔计三等八级。
1942年国民党政府修正颁布“陆海空军官制表”和“陆海空军士兵等级表”，陆军又增设战车兵衔；空军又增设电信、测候衔，并在军士之上增设军士长衔，分一、二、三等。海军军衔未作更动。这样，陆海空三军军衔又得到了进一步完善。
1945年2月，国民党政府重新颁布“空军官制表”和“空军士兵等级表”，其军衔等级仍同前。空军军衔薪金，从下士至中将各分为一、二、三级，二等兵至上等兵各分为两级，放有一、二、三级将校尉等之称。此后，至1949年国民党政府覆灭，未再见其军衔有大的更动。
（二）官佐授衔和晋衔
1934年至1940年，国民党政府先后颁布陆海空军“任官条例”及其“施行细则”。他们认为，“凡军官佐均先任官”，尔后依官任职。这些条例和细则，除沿用北洋政府补官令的一些内容外，对军官、军佐初任(旧称除补)、叙任(旧称叙补)、晋任(旧称升补)、转任(旧称转补)等作了许多新的规定。在初任条件上，除强调学历和现实表现外，增订了准尉升少尉的要求。陆、空军规定，“准尉升少尉，必须服满准尉职务二年以上，曾受应行准备教育，成绩及格，但不得超过初任军官佐的三分之一”。海军规定，“准尉确有经验，著有劳绩，得任为少尉，但晋至中尉为止”。
