恰在这时，国民政府决定将广西军队编为第八军、第九军。此事又引起蒋介石的猜疑，他相信，这件事“证明外面的谣言，不是凭空而来的。我自汕头回到广州以后，就有一种倒蒋运动，无论本军里或本校里，都造出一种不良空气，使得军队里的官长来反叛，并且拿利禄来引诱我们的官长。”当时，广东有六个军，即第一、第二、第三、第四、第五、第六军，广西有两个军。据蒋介石推算，照此下去，广西军队应该编为第七军、第八军。而第七军的编制却空了出来。于是，蒋介石猜测，这是俄国顾问暗示他的部下、第二师师长王懋功，“先要他离叛了我，推倒了我，然后拿第二师和第二十师编成第七军，即以第七军军长报酬我部下反叛的代价，这是不可掩饰的事实。”蒋介石由此断定，“已经有人不满意我”，甚至要“推倒我”。
2月26日，蒋介石突然扣留了王懋功，给了他3000元路费和一张船票，限令他立即离开广州。随后，蒋介石任命自己的亲信刘峙代理第二师师长，缪斌为党代表。“这是蒋介石为中山舰事件作的准备”。蒋介石这样做，还有一个原因，就是想试探一下汪精卫和苏联顾问的反应。这一点，蒋介石显然成功了。他削弱了汪精卫的势力。
蒋介石向汪精卫作出第一次示威之后，又致电周恩来，催促他速回广州。周恩来发现蒋介石同右派来往密切，并且觉察到“他的神色不对”，便报告了张太雷。可惜，“苏联顾问不重视这事，把一个大问题当作小问题，儿戏对之。”
在中山舰事件中兴风作浪的是孙文主义学会，这是黄埔军校反对国共合作的右派团体。黄埔军校创办之初，国民党右派谢持从上海跑到广州，名义上是参加学校开学典礼，实际上却在拉拢学校里的右翼分子，如王柏龄、贺衷寒、潘佑强、冷欣。他甚至散布谣言说：共产党名义与国民党合作，“其实是想乘机篡夺国民党的党权，一朝得逞，所有国民党员，尤其是黄埔同学中的国民党员，将受到无情的迫害，而无立足的余地。”这番话激起黄埔军校右派分子对共产党学员的仇视。而青年军人联合会里的共产党员又在军校公开散发《响导》周刊和其他宣传共产主义的刊物。于是，黄埔军校里的右派分子由此断定青年军人联合会并不是一个青年军人的联合，而是“作为发展共产党组织的据点”，便决定“采取以组织对付组织的行动”。孙文主义学会就是在这样一种形势下，专门为对抗青年军人联合会而成立的，“并不是为了要学什么孙文主义”。学会在成立之初，就同西山会议派有瓜葛，并且受戴季陶的直接领导。结果，这个学会一经组织起来，“就千方百计地找共产党员同学惹事生非，寻衅肇祸，种种蛮不讲理的情形，真是举不胜举。”后来参与中山舰事件的骨干分子欧阳格、除策、缪斌、吴铁城都是孙文主义学会的成员。
