汪得知后，连夜派其妻陈璧君回粤面告张发奎要立即镇压暴动，并于12月9日，连发三电给陈公博和张发奎等，要他们火速解散教导团，查封工人赤卫队总部。
尽管叶剑英极力做张发奎、黄琪翔的工作，缓和局势，但张发奎还是召开紧急军事会议，做出了屠杀广州的革命分子的决议，并密调黄琪翔部队从西江前线赶回广州，策划镇压即将举行的广州暴动。
刚刚点起的广州暴动火焰，眼看就有被敌人扑灭的危险，情况十分危急。
叶剑英在此千钧一发之际，挺身而出，面见张发奎进行“辟谣”，稳住敌人，同时利用其特殊身份保护和营救一批被捕的地下党员和革命积极分子。
他在稳住敌人的同时，将所获敌人有关镇压起义的部署、动向，随时报告党组织，暗地里通知教导团做好准备，告诫官兵提高警惕。
根据叶剑英和其他方面提供的情报，起义决定提前举行，因周恩来不能来粤，中央最后指派叶挺从香港前来广州负责军事总指挥。
由于起义时间临时变更，叶挺在12月10日，起义前夕从香港仓促起程，当晚到达广州，未来得及吃饭，即投入了紧张的起义战斗的部署工作。
11日凌晨3时30分，叶剑英领导的教导团打响了第一枪。
震惊中外的南方第一大城市的广州起义宣告开始了!教导团、警卫团和黄埔军校特务营的革命官兵高举红旗，分成几路，投入了市内的战斗。
潜伏在市内各地的三千余名工人赤卫队，犹如万箭齐发，向着各个指定的目标发起勇猛攻击。
顷刻之间，教导团和工人赤卫队迅速攻占了最坚固的反动堡垒公安局。
广州苏维埃政府和工农红军总指挥部在这里宣告正式成立。
工农红军副总指挥叶剑英协助总指挥叶挺等在总指挥部里共同指挥战斗。
第四军军部等据点的敌人仍在顽抗。
叶剑英走出总指挥部，来到维新路指挥教导团士兵布防，又到文德路城隍庙门口亲自指挥炮兵向敌人射击。
国民党反动派在英、美、日、法等帝国主义支持下，加紧调兵遣将。
逃到珠江南岸的陈公博、张发奎、黄琪翔等匆匆忙忙登上一艘军舰，到肇庆和江门等地调回部队，大举反扑，进行合围。
在这种紧迫的形势下，总指挥部先后召集两次紧急会议，分析形势，讨论下一步部署。
在会上，叶挺、叶剑英、聂荣臻等认为起义虽然暂时取得胜利，但敌众我寡，孤立无援，不宜坚守广州，一再建议将革命队伍拉出去，转移到农村，与彭湃的农军会合，或去粤北找朱德部队。
但是，均遭到军事顾问诺伊曼和其他起义领导人的反对，未被采纳。
叶剑英冒着枪林弹雨，一手提着驳壳枪，一手拎着子弹袋，在长堤第一线巡视布防，指挥战斗。
他还利用战斗空隙去探视伤员，察看俘虏。
这时，到西瓜园召开群众大会的张太雷，在返回途中，不幸中弹牺牲。
叶剑英满怀悲痛，继续指挥战斗。
敌军向观音山发动猛攻。
叶挺、叶剑英命令部队火速前往观音山，坚决守住阵地。
但是，由于起义军兵力不济，敌溃而复聚，酣战竟日，难以取胜。
黄昏后，为了取得友军支援，叶剑英几费周折，找到司机罗炳等，开汽车去东江联络彭湃的农军，但因罗炳中途病倒，没有完成任务。
形势急剧逆转。
12日晚，总指挥部被迫下达了撤出广州的紧急命令。
这次被喻为“广州巴黎公社”的英勇起义，终致失败。
广州起义是中国工农兵在南方大城市武装暴动夺取政权的大胆尝试，得到了毛泽东的高度评价。
江泽民同志在纪念叶剑英诞辰一百周年座谈会上的讲话中指出，叶剑英同志为实现中华民族的独立和中国人民解放建立了光辉业绩。
