中共方面却不急不躁，与顾祝同打了十来天“电报官司”。4月26日，周恩来再次风尘仆仆地登上了国民党派来接他的飞机。6月4日，周恩来到达美丽的庐山。庐山一直是国共领袖们青睐的避暑胜地，蒋介石和毛泽东都瞩目这块福地。
在庐山的谈判桌上，周恩来和蒋介石进行了针锋相对的对峙。周恩来很快发现，与杭州会谈时相比，蒋介石的态度向后倒退了。杭州会谈时，蒋介石曾答应红军改编后可在三个师以上设立总司令部，但是现在却改为设立政治训练处指挥，并公开要求朱毛出洋，企图把中共融化在国民党内。
谈判的进程一波三折。出尔反尔的蒋介石提出不设总指挥部，各师副职由国民政府委派，可以在团以上部队设政训处，负责政治工作，师上面的政训处，由蒋介石的“十三太保”之一、特务头子康泽任主任（11年后，作为襄阳警备司令的康泽被我刘邓大军俘虏）。蒋介石还要求，朱德、毛泽东必须离开部队。
这实质就是要控制共产党、红军和陕甘宁边区，取消中国共产党及其所领导的人民武装在统一战线中的独立性。蒋介石提出的这些无理要求自然遭到了中共代表的坚决反对，周恩来对蒋介石这一方案予以严正驳斥，坚决不同意领袖离开军队，坚持红军改编后由朱德任总指挥，保持共产党的独立性，反对国民党派人到红军部队中任职。但蒋介石予以拒绝，红军改编之事再次搁浅。
由于双方立场相去甚远，这次庐山会谈无果而终，周恩来于6月18日返回延安。中共高层对此进行了彻夜讨论，为了顾全大局，准备做出重大让步，在国共双方组成的最高会议上，以蒋介石为主席。如蒋介石同意红军三个师以上设立总的军事指挥部，红军在名义发表后就改编。否则的话，就于8月1日自行宣布改编，采用国民革命军暂编军、师名义，编三个正规师，共4万5千人。
为了结束旷日持久的谈判，1937年6月26日，周恩来就红军指挥问题致电蒋介石，陈述中共的立场。周恩来的电文代表了面对民族危机的中国共产党人的灼见——“惟三师以上指挥机关及主持人选，党中同志认为非有此实无法进行改编，尤以朱同志去留影响极大，务请鉴察此间实情，改编处置。”
而蒋介石不为所动。中共方面为了抗日大业，准备再做出让步，同意改编后的红军以政治机关名义指挥，力争以朱德为政治主任。这已经是真诚抗日的中国共产党人所能作出的最大限度的让步了。同时，中国共产党也做好准备，万一上述要求仍不能得到，则径直在8月1日自行宣布改编。
