一九三一年春天回国不久，他接任中共中央宣传部长之职。从此，他的主要精力放在党的理论建设上。作为理论家，尤其是正派的理论家，他是愿意向真理投降的。他来到中央苏区以后，残酷的革命现实教育了他，使他认识到：一个没有实践经验的理论家指导革命，是一定要犯教条主义的错误的。因此，他决计在革命的实践中修正自己的错误。结果，他和相知有年的战友、当时党的主要负责人博古等产生了政治上的分歧。当时，长城抗战爆发不久，党中央提出了“共同抗日三条件”，即：一、立即停止进攻苏维埃区域；二、立即保证民众的民主权利（集会、结社、言论、罢工、出版之自由等）；三、立即武装民众，创立武装的义勇军，以保证中国及争取中国的独立统一与领土完整。但是，出张闻天所料的是，由此他和博古的政治分歧公开化了。对此，他曾做了如下的回忆：
然而政治上的分歧终究开始发生了。首先关于三条件的解，我们一开始即有分别。博古说，三条件只是宣传的号召，只对下层士兵与广大工农群众讲的。我说，三条件是宣传的，也是行动的号召，也是对上层军官说的。对于十九路军的策略，他完全采取开玩笑的态度，在军事行动上完全不配合，我则主张慎重其事，在军事上主张积极配合。但这种不同的意见，没有在正式的会议上发生过公开的争论。……其他关于经济政策也曾经有过个别的不同意见。
张闻天与博古的公开冲突始于关于广昌战斗的一次讨论。事后，张闻天回忆道：“我批评广昌战斗同敌人死拼，遭受不应有的损失，是不对的。他批评我，说这是普列汉诺夫反对一九零五年俄国工人武装暴动的机会主义思想。我当时批驳了他的这种诬蔑，坚持了我的意见，结果大家不欢而散。其他到会同志，没有一个表示意见。”从此，张闻天同博古的矛盾加深了。博古为了缓和关系，借李德的口说了这样一句史有所记的话：“这里的事情还是依靠于莫斯科回来的同志。”换言之，“我们内部不应该闹磨擦。”
诚如前文所说，张闻天是一位愿意向真理投降的理论家，最反对搞非理性的派别活动，但当时他并没重视博古这句话，继续坚持他自认为正确的立场。这样一来，旧有的矛盾得不到解决，新的矛盾又时时发生，怎么办？坚持宗派主义立场的博古开始排挤张闻天。请看张闻天同志的如下记述：
五中全会后，我被派往中央政府工作，就是把我从中央排挤出去的具体步骤。后来又把我派到闽赣做巡视工作……实际上要把我从中央政府再排挤出去，而把中央政府的领导交给别人。在我不在中央政府时期，博古等公开批评中央政府的文牍主义，在背后攻击我。直到快要出发长征以前，我才从闽赣回来。当时关于长征前一切准备工作，均由以李德、博古、周恩来三人所主持的最高“三人团”决定，我只是依照最高“三人团”的通知行事。
张闻天是大理论家，对博古、李德等在军事上所犯的错误，当然有他的看法；张闻天是中央政治局常委、书记处书记，对“三人团”在长征前如此准备和行事，他也认为不符合党的组织原则。与此同时，他在反“围剿”的失败中逐步认识了毛泽东，也或许是因为他自己的地位发生了改变，对博古——包括他自己对毛泽东所采取的排挤措施开始有了反省。说到他和毛泽东的关系，在延安整风期间他曾讲过如下这段话：
