杜月笙在不经意间，用一个“我们”代表黄老板与张啸林表了态。对此，黄金荣与张啸林心里颇有些不满，但当着杨虎、陈群的面也不方便说什么。
经过一番会谈，杨虎、陈群根据“三大亨”的表现，秘密呈报蒋介石，认为黄金荣耐于督察长的身份，不便公开露面，加上年纪老迈，仅可暗中助力；张啸林喜交军阀，崇慕权势，性情刚烈，易于树敌；唯有杜月笙，“时刻不忘奋发向上，谦冲自抑，且时值年富力强，”正可以为党国效力。
于是，国民党中枢秘密决定重用杜月笙。
正因为此，黄金荣得以退居幕后，除了筹建“共进会”、策划“四一二”清党行动方案等会议需要参加外，其他时候就躲在自家公馆里，关注着华格臬路杜公馆的清党准备工作的进展。
黄金荣此举，可谓达到了刀切豆腐两面光的效果。一则杜月笙出自黄门，功劳大小都与他黄金荣不无关系，蒋介石那边好交代；二则倘使“清党”失败，他本人不至直接得罪共产党。
事实证明，黄金荣的老谋深算使他后来受益匪浅，多年后参与参加谋杀上海总工会理事长汪寿华的的叶焯山、马祥生在枫林桥被正法时，黄金荣躲在公馆里，为自己当初的谨慎暗自庆幸。
尽管黄金荣一直谨慎对待参加“清党”，但由于黄门弟子众多，在参加“四一二”反革命政变的16000名“共进会”会员中，黄门徒众数量最大，足有五六千之多，涵盖了整个黄浦滩头的的戏馆、旅社、酒店、餐厅、混堂与妓院，这些由案目、茶房、侍役、保镳、擦背匠、扦脚匠、小贩、伙计等组成的“共进会”成员，大多是在不明真相的情况下，被拉来稀里糊涂地充当了流氓武装的打手。
4月12日凌晨，16000名流氓打手兵分四路，分别攻打设于商务图书馆的工人纠察队总指挥处、驻有100多名工人纠察队员的商务印刷厂、位于闸北湖州会馆的上海总工会会所，以及位于南市华商电车公司工人纠察队聚集点。
他们冒充工人纠察队向真正的工人纠察队进攻，在双方对打之际，正规军以貌似公正的姿态出面调解，以“工人弟兄不要自相残杀”为由，要求双方放下武器。“共进会”率先放下武器接受蒋介石的军队调解，而真正的工人纠察队则被蒋介石的军队轻而易举地解除了武装。
不久，蒋介石为表彰“三大亨”在上海清共之役中所建功勋，特地委任“三大亨”为“军事委员会少将参议”、“行政院参议”，和“海陆空军总司令部顾问”。
当年农历十一月初一，黄金荣60大寿，蒋介石亲临钧培里黄公馆为黄金荣拜寿，为黄金荣挣足了面子。
