根据印支共中央的连续请求和罗贵波就此事的报告，中共中央于1950年3月下旬正式形成会议，组成中国军事顾问团入越，协助越军作战。顾问团团长由原第3野战军第10兵团政委韦国清担任。
选韦国清入越，颇经多方考虑。首先，他久经战阵，长期以来是独当一面的军事指挥员。在红军中，他曾是一名工兵。在抗日战争中，他是征战于江淮地区的“麻雀战专家”。解放战争中，他成为纵队（军）和兵团的司令员，指挥了许多重大战役。渡江战役前夕，他担任第10兵团政委，和司令员叶飞一起挥师解放了福建。入闽后，韦国清转而接手地方工作。此种经历使他既熟悉军事也熟悉政治工作，足当重任。
还有一个重要原因是，韦国清是广西壮族人，他的家乡和越南相距不远，越南也有壮族人，彼此的语言可以相通。去越南，这是韦国清得天独厚的条件。另外，从个人性格来说，在第3野战军的高级将领中，韦国清以机智稳重著称，担任赴越军事顾问团首长很合适。
韦国清恰好在北京，正等着中共中央军委分配工作。
韦国清原名韦邦宽，1913年出身于广西东兰县劳石乡一个贫苦农民家庭。1928年夏天，15岁的韦国清参加了韦拔群领导的农民自卫军，参加过攻打东兰县城的战斗。1929年他加入共青团，同年参加由邓小平、李明瑞、张云逸领导的百色起义，当过张云逸的警卫员。此后他转战桂黔湘边界地区，然后进入江西苏区，于1931年转为中共党员，很快成为一名年轻的红军团长。
1934年10月，韦国清参加二万五千里长征。他曾率部参加抢占皎平渡、巧渡金沙江的关键性军事行动。红军抢渡乌江时，当时任干部团特科营营长的韦国清跟随团长陈赓，率工兵连星夜疾行60华里，赶到边界河渡口，神秘迅速地架起浮桥，使中央红军得以及时全部过河，攻占遵义。到达陕北后，在红军的最后一战直罗镇战役中，韦国清身负重伤，伤愈后进入红军学校学习。
抗日战争初期，韦国清担任过八路军总部随营学校校长。1940年后任新四军第3师第9旅政委、第4师第9旅旅长等职，转战于淮北。他于1942年12月指挥了朱家岗战斗，这次战斗对粉碎日本侵略军发动的对淮北地区的大扫荡具有决定性意义。1943年春，国民党江苏省主席兼鲁苏战区副总司令韩德勤突然率部袭击新四军淮北根据地，韦国清率第9旅主力迅速包围了韩德勤部，予以围歼，生俘韩德勤，为新四军坚持在淮北和苏北的抗战创造了有利条件。1944年9月新四军第4师师长彭雪枫牺牲后，韦国清就任副师长。
抗日战争胜利后，韦国清曾任军调处执行部徐州小组中共代表。1946年解放战争开始后，韦国清任山东野战军第2纵队司令员兼政委，指挥部队参加了朝阳集、宿北、鲁南等战役。1947年2月，他率领一个纵队越过陇海铁路，发起白塔埠战役，歼灭了国民党第42集团军军部和它的第2师、第4师，活捉其司令郝鹏举。随后，韦国清率部参加莱芜战役。在著名的孟良崮战役中，他指挥两个纵队在青驼寺阻击国民党援军，血战三昼夜，挡住了援兵，保证了华野主力在孟良崮全歼国民党最精锐的第74整编师。
1948年起，韦国清任苏北兵团司令员，参加了淮海战役。担任第10兵团政委后，他同司令员叶飞率部渡过长江后参加上海战役，尔后进军福建，先后任福州市委书记、福建省省委组织部部长。新中国成立后百废待兴，韦国清被调到北京，准备让他去联合国任职。正好赶上要成立赴越军事顾问团，几乎是一夜之间，韦国清未来若干年的人生轨迹完全改变了。
