1949年9月29日，中国人民政治协商会议第一届全体会议通过的《中国人民政治协商会议共同纲领》规定国家最高军事统率机关是中央人民政府人民革命军事委员会。任命毛泽东为中央人民政府人民革命军事委员会主席，朱德为中国人民解放军总司令。军委日常工作由周恩来主持。1952年4月，军委副主席彭德怀回国主持军委日常工作。

下设四总部：为总参谋部、总政治部、总干部管理部、总后勤部。四总部部门名称前被冠以“中央人民政府人民革命军事委员会”。

1949年10月，任命徐向前为人民革命军事委员会总参谋长，但因病一直未到任；50岁的聂荣臻任人民革命军事委员会副总参谋长，后代理总参谋长，期间协助抗美援朝战争的指挥工作；1951年11月，任命44岁的粟裕为中央人民政府革命军事委员会第二副总参谋长。

1950年4月，47岁的罗荣桓任人民革命军事委员会总政治部主任，同年9月兼任总干部管理部部长，原中组部、总参谋部作战部一局分管的军队军事、后勤、技术干部工作交由总干部管理部负责。政治干部管理工作仍由各级政治机关负责。

1949年10月，49岁的杨立三任人民革命军事委员会总后勤部部长，1952年10月，50岁的黄克诚调任第三副总参谋长（第一、第二副总参谋长分别为聂荣臻和粟裕），兼任总后勤部部长，杨立三改任第一副部长。

1950年四总部首长为，代总参谋长聂荣臻、总政治部兼总干部部长罗荣桓、总后勤部部长杨立三。

1953年四总部首长为，副总参谋长粟裕（1952年聂老总终因劳累过度病倒，1953年7月停战后休养治疗）、总政治部兼总干部部长罗荣桓、总后勤部部长黄克诚

1954年9月，一届人大通过并颁布的宪法规定设立国防委员会。该委员会是咨询性质的机构，不是全国武装力量的领导机关，同时在国务院设立国防部长一职。从此，中央人民政府人民革命军事委员会不复存在。鉴于国家体制中设立了国防委员会，中央决定在政治局和书记处之下成立中央军事委员会，领导中国人民解放军和其他武装力量。国防部长由主持军委日常工作的副主席担任。原冠以“中央人民政府人民革命军事委员会”者，一律改称“中国人民解放军”字样。同时参照苏军体制，逐步组建了人民解放军八总部分别为：总参谋部、总政治部、总干部管理部、总后勤部、训练总监部、武装力量监察部、总军械部、总财务部。

1954年9月，主持军委工作的彭德怀元帅任国务院副总理兼国防部部长和国防委员会副主席。1954年10月，47岁的粟裕大将任人民解放军总参谋长。1957年4月，将总政干部部并入总干部管理部，在总干部管理部内增设政治干部任免部；预备役干部动员部并入总参谋部动员部。1956年9月，因健康原因，54岁的罗帅解除总政治部主任及总干部管理部部长职务；12月，50岁的谭政大将任人民解放军总政治部主任，40岁的萧华上将任总干部部部长。1958年8月总干部管理部并入总政治部。1956年12月，43岁的洪学智上将任总后勤部部长，原总后勤部部长黄克诚大将调任军委秘书长。1955年4月，成立人民解放军训练总监部，负责全军的军事训练和院校教育；任命刘伯承元帅任部长，但因其兼任军事学院院长，由58岁的叶剑英元帅任训练总监部代部长。1958年12月，任训练总监部并入总参谋部；1955年6月，成立人民解放军武装力量监察部，由58岁的叶剑英元帅任部长。1958年11月，撤销武装力量监察部，其军事监察工作由总参谋部管理，政治监察工作由总政治部管理，后勤财务/监察工作由总后勤部管理。1951年10月，总后勤部军械部与炮兵军械部合并为军委军械部，归炮兵领导；1954年11月，设立人民解放军总军械部，直属中央军委，49岁的王树声大将任部长；1957年7月，总军械部划归总参谋部，即总参谋部军械部。1953年10月，总后勤部财务部改为军委财务部，杨立三任部长。1954年1月，该部正式受军委直接领导。10月，军委财务部改称中国人民解放军财务部，40岁的余秋里中将任第一副部长（原部长杨立三于11月病逝）；1955年8月改称中国人民解放军总财务部。1957年5月总财务部又并入总后勤部。

1955年八总部成型，各总部首长分别为总参谋长粟裕大将、总政治部主任罗荣桓元帅、总干部管理部部长罗荣桓元帅、总后勤部部长黄克诚大将、训练总监部代部长叶剑英元帅、武装力量监察部部长叶剑英元帅、总军械部部长王树声大将、总财务部部长余秋里中将。

1956年底调整后，各总部首长分别为总参谋长粟裕大将、总政治部主任谭政大将、总干部管理部部长萧华上将、总后勤部部长洪学智上将、训练总监部代部长叶剑英元帅、武装力量监察部部长叶剑英元帅、总军械部部长王树声大将、总财务部部长余秋里中将。

1958年，八总部正式改为总参谋部、总政治部、总后勤部三总部机制，此时三总部首长分别为总参谋长黄克诚大将（于1958年10月接替粟裕大将，后1959年9月罗瑞卿大将接任该职务）、总政主任谭政大将（1961年1月罗荣桓元帅复出接任该职务）、总后部长洪学智上将（1959年10月邱会作中将接任该职务）。该体系一直沿用至1998年总装备部的建立，形成四总部体系。