然而这一年，国共合作却遭遇了多事之秋。
3月12日孙中山先生在北京逝世；
7月1日，国民政府在广州成立，汪精卫出任国民政府常务委员会主席兼军事委员会主席；
8月20日，廖仲恺遇刺，整个革命阵营为之震惊，广州上空阴云密布。
11月23日，国民党中央执行委员张继、邹鲁、居正、谢持、林森等人在北京西山碧云寺自行召开“国民党一届四中全会”，形成西山会议派，做出取消共产党员的国民党党籍，开除中央执行委员中的共产党员的决议，并赞成“联蒋倒汪”。
而此时，蒋介石已在镇压广州商团叛乱、两次东征讨伐陈炯明、平定杨希闵、刘震寰叛乱等战役中成长壮大起来，在革命阵营中具有了举足轻重的力量。
12月中旬，张国焘担任中共党团书记，代表中央前往广州出席国民党二大，并指导二大期间的中共党团活动。
张国焘是肩负“使命”而来的，这个“使命”便是在国民党二大上对领导权做出让步，主张“不包办国民党”，共产党员在国民党中央领导机构中人数不超过三分之一。
这个主张来自共产国际的决定。早在9月28日开幕的中共中央四届二中全会上，共产国际执委会便指示中共中央：
“党团无论如何不应发号施令；共产党不应要求必须由自己的党员担任国家和军队的领导职位。相反，它应当竭力广泛吸引不是共产党员的国民党员参加负责工作。”
共产国际执委会东方部负责人瓦西里耶夫，由于担心陈独秀等人与国民党争夺领导权，特地在10月2日四届二中全会闭幕当天给维经斯基来信，要他明确转告陈独秀，放弃做领导的努力。
为此，陈独秀在维经斯基的安排下，特地在上海苏俄领事馆与孙科、叶楚伧、邵元冲谈判，明确表示放弃对国民党中央领导权的争夺，希望他们回广州参加国民党二大。
对于共产党员在国民党中央执行委员会中的人数，陈独秀曾提出不少于七人，鲍罗廷主张不超过国民党一大时的三人，“以免吓跑中派和不无谓地刺激右派”，最后一致同意四人。
放弃对领导权的争夺，这是参加国民党二大的中共代表所不能接受的。首先提出反对意见的就是广东区委负责人、陈独秀的儿子陈延年，他说：
“连孙科、戴季陶这样的人都选进中央委员会，这是明显的妥协退让！我们应该团结左派，打击右派，使共产党和国民党左派在国民党中央占绝对优势"
尽管陈延年的意见得到其他与会代表的赞同，但张国焘握有“尚方宝剑”，何况他本人与陈独秀的观点相同，认为“国民党的事务理应由国民党员来管”。他说：
“大家不要以为中央的政策，是退让的政策，而应认识到这是以退为进的措施。中共目前还处于幼龄，既没有军队，又没有参加国民政府掌握政权的经验，就算我们争取再多的国民党中央委员人数又如何，难道你们以为这样就能提高我党领导地位？不仅不会，而且还会引起国民党人士的反感，致使他们将我们驱逐出去。总之这是中共中央的决定，你们要贯彻执行。”
1926年1月1日，国民党二大隆重召开。在中共代表的努力下，会议对“西山会议派”邹鲁、谢持、林森等人均给予开除、警告等不同程度的处分。但在大会最后选举的36名中央执行委员中，中共代表仅占七人。
二大闭幕后，张国焘即返回上海。此后在“中山舰事件”与蒋介石“整理党务案”事件中，张国焘又先后两次南下广州，奉命传达并执行陈独秀的指示。
