上海工人第三次武装起义在1927年的3月21日发动了，整个行动，由特委会议指挥，紧急时由罗亦农、周恩来、何松林（汪寿华）、陈独秀指挥。周恩来分工在南市指挥，后来又到闸北前线。他身穿灰布棉袍，头戴鸭舌帽，在总指挥部对着地图同赵世炎边商量边决定，听取报告，指示行动。经过28小时战斗，攻下北洋军阀在上海的最后一个据点——北火车站。起义取得了胜利，完全是靠有组织的产业工人武装作战，打败了几千反动军警。这是中国工人阶级依靠自己的力量武装起义胜利的光辉一页。
工人起义胜利了，蒋介石等率北伐军进入了上海市，却准备着对起义的工人阶级下毒手。4月11日夜到12日凌晨，他们用阴谋诡计缴了工人纠察队的械，13日，开始了疯狂的屠杀和搜捕。昔日的盟友彻底地露出了反动面目，是一个狠毒凶残的刽子手。大批共产党员和工人群众倒在血泊中，中国共产党的组织被迫转入地下。周恩来起草了电报，与赵世炎、罗亦农、陈延年、李立三、尹宽联名致中共中央，主张迅速出师讨伐蒋介石。电报中分析了军事力量对比，认为蒋介石处于不利地位。“为全局计，政治不宜再缓和妥协”。但这一建议没有被苏联顾问鲍罗廷和陈独秀所采纳。
1927年5月下旬，周恩来由上海秘密到达中共中央所在地武汉。此前，在汉口召开的中共第五次全国代表大会上，周恩来被选为中央委员；在五届一中全会上，又被选为中央政治局委员。25日，中央政治局常委会议决定周恩来任中共中央军事部部长，必要时参加常委会议。29日，中央政治局常委会议决定周恩来代理中央常委职务，参加中央核心领导。从此以后，在长达半个世纪的时间内，周恩来一直是中共中央的主要领导人之一。
周恩来领导军事部后，以聂荣臻、王一飞、颜昌颐、欧阳钦等为助手，进行了对军队的组织、联络，加强了军队的政治工作，向国民革命军中派去朱德、陈毅、刘伯承等不少干部，并负责指导武汉的工人纠察队和湖南、广东的农民运动。这时，国民革命军独立第十四师师长夏斗寅在宜昌发动的武装叛变虽已击退，长沙许克祥又发动了反革命的“马日事变”，武汉汪精卫叛变革命的迹象越来越明显，周恩来主张在农民运动力量强大的湖南农村发动武装起义。6月17日，他在中共中央常委会上提出，现在湖南18县有8？000支枪，可以派人去集中起来，攻取反动力量弱的城池，如湘潭、浏阳、平江等地。他建议省委下设军委，各区设农军委员会，在可能范围内成立乡村的临时委员会，对许多反动军队强则扰之，弱则缴其械。会议同意了这一布置。20日，周恩来在中共中央常委会上又说，湖南省委决定派50人回去，把湖南划为10个区，派10名懂军事的干部去，做好准备，根据政治局决定进行暴动。但这些意见遭到共产国际代表的反对，没有实现。陈独秀在7月5日的中央常委会上甚至说，军事工作应该收缩。
7月15日，汪精卫背叛孙中山的国共合作政策。他同蒋介石一样，对共产党员和革命群众进行了大屠杀。
中国共产党已经再无退路了，血的教训擦亮了共产党人的眼睛，于是决定举行南昌起义，以革命的暴力来反抗反革命的暴力。
