后来华国锋的失败部分由于他在试图强化自己权力时无法得到军事将领的支持。1977年，邓小平恢复权力，担任军委副主席以及军队总参谋长职务时，得到了人民解放军的一致拥护。1980年12月邓小平担任军委主席时，军队的秩序得以重建，人民解放军的高级官员都全力支持他。邓小平的目标是在军队内部重建严格的军事纪律，并赋予党对军队的完全控制权。
那些忠于"文革"路线、享有一部分特权的军官们，对为刘少奇的彻底平反，以及对毛泽东在"文革"中所犯错误的讨论不满。1980年，人民解放军第一次削减预算，1981年予以再次削减。1982年9月第十二届党代会前夕，《解放军报》发表文章，指出几位文化部门领导支持资本主义自由化的观点。大会召开后几天，人民解放军总政治部的领导和海军参谋长被免职。邓小平意识到他必须对军队的领导结构进行重组。
在"文化大革命"期间，军队的高级领导由于自身过去的革命历史使他们拥有强烈的正统性，他们在"文革"中发挥了决定性的政治作用。从历史上来看，是人民解放军使中国共产党在人民群众中获得合法性，并依靠人民夺取了政权。在历史上中国人民第一次有了一支纪律严明的部队，它尊重人民和财产，由堪称榜样的官员领导。这也是第一次，士兵成为真正的人民军队的一员。因为在夺取政权中起了决定性作用，解放后党的机构中有很多高级官员都出身于军队。人民解放军已经与"文化大革命"连在了一起，而"文化大革命"对国家的破坏性影响度使得军队形象受损。军队在共和国初期的历次运动中扮演过重要角色，只有重返职业化才能使其重整旗鼓并恢复它的合法性。
从此，军队不再被号召去积极参与国内的阶级斗争以及支持国外的世界革命，它被要求远离政治活动。政治曾使它身陷"文化大革命"，从此它要全部投身于自身重组和"四个现代化"框架下的国防现代化中去。1982年，宪法规定中央军事委员会受人民代表大会常务委员会的直接领导（第94条），1979年被平反的彭真在新一届代表大会的讲话中进一步明确道："党在国家生活中的领导地位是在宪法序言中明确规定的，这自然包括它对军队的领导"。这个决定是支持人民解放军的，因为它打破了人民解放军一直受中共中央军委独自领导的枷锁，将控制权转移给国家。像其他大多数国家一样，军队成为一个简单的机关。邓小平当选为这个国家军事力量机关的主席，同时保留他党的军委主席的职位，使党和国家的决策达到一种和谐。军事领导机构逐渐职业化和专业化，从而使具有相同经历的职业军人保持步调，并试图以更加制度化的方式构思军事政策。
