他身兼数职，疲于应付，就去请示毛泽东。
毛泽东说：“你主要抓总参谋部的工作，抓抗美援朝，其余的事，你不要管。”
从此以后，聂荣臻就把主要精力用于抗美援朝战争。
1950年10月25日至11月5日，志愿军进行了第一次战役，歼敌15万人。
初战获胜，聂荣臻兴奋地说：“心中有底了。”
10月27日，聂荣臻建议，第九兵团入朝参战，毛泽东批准这个建议。
第九兵团11月7日进入朝鲜，担负东线作战任务。
11月25日至12月24日，志愿军进行了第二次战役，歼敌36万人，将敌人赶到了“三八线”附近。
11月26日，聂荣臻建议，从关内国防军和公安军中，用自动报名的方式，动员一批有作战经验的老战士入朝参战，以保持前线部队战斗力。
毛泽东27日就予批准。
经一个多月动员，有8万多干部战士报了名，编成32个补训团另8个独立营，于1951年3月补充到了前线部队，对加强志愿军战斗力起了重要作用。
12月31日至1951年1月8日，志愿军进行了第三次战役，歼敌19万人，攻占了汉城。
1月25日至4月21日，志愿军与朝鲜人民军一起，进行了第四次战役，歼敌78万人，击退了敌人的进攻，守住了“三八线”。
2月7日，中央军委决定，从国内抽调部队轮番到朝鲜参战。
为贯彻这一方针，聂荣臻组织第十九兵团于25日入朝，第三兵团于3月18日入朝。
这两个兵团入朝参战，有力地增强了志愿军的战斗力。
4月22日至6月10日，志愿军与朝鲜人民军配合，进行了第五次战役，共歼敌82万人。
6月13日，聂荣臻建议，为恢复第三、第十九兵团的战斗力，每兵团各以一个军的架子回国补充兵员。
14日毛泽东批示：照办，望加速进行。
到7月上旬，经过紧张工作，为这两个兵团补兵47万人。
接着，聂荣臻组织第二十兵团于6月19日入朝。
这些生力军的到达，迫使美军于6月30日发表声明，愿意进行停战谈判。
抗美援朝战争中，后勤保障工作任务极为繁重。
聂荣臻在这方面费力最多。
第一批志愿军出国，走得非常仓促，聂荣臻多次催促总后勤部，组织好冬装的生产调运，从而保证了出国的志愿军战士每人有一套冬装。
1951年1月下旬，聂荣臻随周恩来到沈阳出席东北军区第一届后勤工作会议。
这次会议着重研究运输问题。
聂荣臻在会上说，志愿军作战取得的伟大胜利，与后勤工作做得好是分不开的。
我们要在朝鲜打败美国侵略军，不但是小米加步枪，还要加很多东西，下一步要联合兵种作战，加的东西更多，后勤任务更繁重，有了东西，还要能运得上去，所以必须做好组织计划工作。
这次会议，对保障好志愿军的后勤工作，促进我军后勤供应向现代化转变起了重要作用。
第三次战役以后，志愿军提出了进行联合兵种作战问题。
1951年3月21日，聂荣臻召开有炮兵、装甲兵、工程兵、铁道兵等领导出席的特种兵例会，专门研究解决联合兵种作战中的后勤保障问题。
以后这种会议开了多次。
5月19日，在周恩来主持、聂荣臻参与下，中央军委作出了《关于加强志愿军后方勤务工作的决定》。
此后成立了志愿军后方勤务司令部，统一指挥后勤的对敌斗争和组织供应工作，使志愿军的后勤供应逐步好转。
7月，在停战谈判中，美方无理要求我方撤出12万平方公里的土地，遭拒绝后，8月中旬美军发动夏季攻势，同时发动所谓“空中封锁交通线战役”，又叫“绞杀战”，对志愿军后勤供应线进行更猛烈的狂轰滥炸，我军供应出现了严重困难。
