毛泽东下山后，没有径直去湘南，在湖南酃县中村待机，一面就地整训部队，一面发动群众；同时，派毛泽覃带着特务连去湘南同朱德联络。
到了3月下旬，毛泽东得知朱德、陈毅率领的湘南起义部队，遇到广东、湖南“协剿军”的夹击，在湘南难以立足时，便决定兵分两路，赶赴湘南，接应和掩护湘南部队撤退。
毛泽东率工农革命军第一团向桂东、汝城前进；命令袁文才、何长工率第二团向彭公庙、资兴前进。
朱德于3月底在湖南耒阳完成了转移准备后，率领湘南起义部队的主力工农革命军第一师和新成立的第四师及宋乔生领导的桐子山工农游击队，在毛泽覃带领的特务连的接应下，4月上旬经安仁、茶陵到达了酃县的沔渡。
陈毅在郴州接到朱德向井冈山转移的通知后，立即组织湘南各县的党政机关和湘南农军转移，在资兴与袁文才、何长工所率的第二团会合。
4月中旬，陈毅率领的工农革命军主力一部和湘南农军第三师、第七师以及袁文才、何长工率领的第二团到达了酃县的沔渡，与朱德率领的主力部队会合。
大家欢天喜地，受到很大的鼓舞。
第二天，何长工就接毛泽东的指示，他带着第二团先期回到井冈山地区，筹办两军会师的有关事宜。
久久盼望的一天，终于来到了。
4月24日前后，朱德、陈毅率领着湘南起义军主力工农革命军第一师和湘南农军1万余人，来到江西宁冈的砻市。
不久，毛泽东在酃县一带完成了阻击敌人，掩护朱德率部上山后，也回到砻市。
两军终于会师。
朱德和陈毅听说毛泽东要回来，早已等候在龙江书院。
当毛泽东来到时，他们迎出门外。
毛泽东走近龙江书院时，早把手伸了出来；朱德也抢前几步，同样伸出手来，中国革命史上两个巨人的手紧紧地握在一起。
在场的陈毅、王尔琢、何长工等都热烈握手，互致问候。
第二天，在龙江书院的文星阁召开了两支部队的连以上干部会议。
根据中共湘南特委的决定，会议讨论了中国工农革命军第四军成立及人事安排等一系列重大问题。
在讨论到两军会编后取什么番号时，朱德想到北伐战争时号称“铁军”的叶挺部队。
叶挺独立团誓师北伐后，一路势如破竹，屡战屡胜，屡建奇功，后来发展为二十四师、二十五师，叶挺所在的国民革命军第四军被誉为“铁军”。
他说，第四军有着光荣的历史，在全国享有崇高的荣誉。
当年叶挺独立团的老底子都在我们这里，我看会编后部队沿用第四军的番号，表明我们继承北伐军的光荣传统，把革命进行到底!”
朱德的提议得到大家的拥护，一致同意会编后，叫工农革命军第四军。
当讨论到军长人选时，一开始就有人提出由朱德任军长。
说他资历深，威信高，又有丰富的战斗经验，善于带兵打仗。
特别提到他1909年进入云南讲武堂，参加过云南起义、护国讨袁，还在苏联学习过军事，又参与领导了南昌起义和湘南起义，担当四军军长最合适。
这可急坏了朱德。
他说：“我建议大家推选一个更年轻，精力更充沛的同志出任。
我虽然资历深一些，但绝对服从领导。
服从命令是我们军人的天职嘛!”
朱德的意见没有得到支持，大家一致同意朱德出任军长，毛泽东任党代表，王尔琢任参谋长。
并决定在纪念“五四运动”9周年时，在砻市召开胜利会师大会。
之后，召开中国共产党工农革命军第四军第一次代表大会，选举毛泽东、朱德、陈毅等23人组成军委，毛泽东当选为军委书记。
5月4日，天刚亮，人们就从四面八方涌向砻市，参加会师大会。
