这就是神秘的“白团”，团长是冈村最信赖的富田直亮。富田直亮化名白鸿亮，这个日本旧军官组织就取名“白团”，因为共产党是红的，所以团长就姓白，整个团就叫“白团”，含意是以旧日本军将校军事顾问团对抗红色共产党军队。这些人思想上仇视共产党，怀有对蒋介石报恩的想法。当然，实际上战败的日本旧军人受到社会整肃，连生活都成问题，加入“白团”，他们可以领取安家费8万日圆，每月还有3万日圆月薪。因此，日本旧军官积极加入“白团”，不可否认也有他们个人的目的。
1949 年10 月的一天，“白团”第一批19 名日本旧军官在东京一家小旅馆秘密集会。为了防止美军突击检查，还有人在外望风。他们听取曹士澄说明各种保密规定、行动暗号与联络方法，然后，共同结下盟约，其主要内容为：“值此赤魔逐日风靡亚细亚大陆之际，当是尊重和平自由，坚信与×××合作为要之××××同志奋起，共同保卫东亚，联合反共，更密切携手迈向防共之秋……”为了避免盟军和日本共产党的注意，“白团”成员离家出发前，只能和自己的太太说实话，个别成员甚至连自己的太太也不告诉。
因为盟军限制旧日军出境，“白团”成员不能以公开的身份乘船或飞机出境，只能以偷渡方式分批出境。1949年11月的一天，白鸿亮、林光（荒武国光）以盟军假情报人员的身份，搭乘飞机先到香港再转台湾。剩余17人分批偷渡，冒充船员先绕道香港，再转到台湾。曹士澄回忆说：冈村宁茨对于遴选团员十分慎重，根据蒋介石方面提供的教育训练计划，多方选择适合的军官，经过订立契约并取化名后，“晋见”冈村宁茨，说明赴台援华的目的任务、保密暗号等有关事项（特别是注意服装与面容，不可留日式小胡子），分别饯行后，由本组成员王亮送至神户待船出发。在上船前，领取伪船员证，船抵达基隆时，由台湾方面人员上船，认明暗号，接送至宿舍，向白鸿亮报到。
“白团”秘密到台湾，各种活动都秘密进行。因为战后日军被整肃，按盟军规定，旧日军人员不但不可以担任公职，也不可以从事任何军政活动，更不允许私自出国。“白团”成员到了台湾之后，台湾将其列为“国家”机密，绝不对外公开。
冈村宁茨对“白团”成员要求极严，“白团”成员休假返国，都必须先向冈村报告在台的工作情况。冈村宁茨虽然因病没有到台湾，但他对“白团”在台工作进展情况十分了解。因为搞军事教育训练，必须要有内容先进的教材，更因为新武器的发明，战斗方法也须改变。为此，冈村宁茨秘密在东京成立一个军事图书馆，化名为“富士俱乐部”，多方收集最新材料，秘密运送台湾，供“白团”应用，使军事教育日新又新。
1950年春，蒋介石在台北近郊的圆山公园附近建立了圆山训练所，让“白团”成员专门训练从大陆败退的国民党军官。蒋介石试图通过训练，培养国民党军官的自信，为反攻大陆作准备。在训练所成立时，蒋介石特别强调：“这次军事训练比以前的任何一次训练都重要，而且，今后我们国家的存亡、个人的成败与荣辱，都要从这一次的训练来决定。”蒋介石对这次训练极其重视，经常亲自视察训练所，慰问“白团”成员。蒋介石声称：“武器靠美援，士气靠日军重振。”
那么，蒋介石为什么不公开请美国军官而秘密地请日本军官来训练呢？根本原因是蒋介石不喜欢美国的那一套包括军制在内的价值体系。他比较欣赏的还是日本的价值模式。他早年留学日本，曾在日本高田陆军炮兵联队过了一年的士兵生活。日本军队的军事训练和素质给他留下了不可磨灭的印象。败退台湾后，他请“白团”来就是要让国民党军官接受日式军事教育，把国民党军队训练成具有战斗力的高素质部队。“白团”的一名教官江秀坪（真名岩坪秀岩）说，过去日军与中国国民党军在战斗时，一个营的日军可以对抗一个师的国民党部队，主要原因是因为国民党军人不学战术，所以无法变成精锐的部队。因此他们一到台湾，就按照蒋介石的指示，教育内容要全是日本式，而且最重要的是战术教育。
朝鲜战争爆发后，美国派第七舰队侵占台湾海峡，蒋介石认为反攻大陆的时机已经来临，兴奋异常。台湾到处弥漫着反攻大陆的空气，很多地方的墙上都贴着反攻大陆的标语。蒋介石打算派兵参加朝鲜战争，欲借美国军队援助反攻大陆。但美国政府担心“因此促成中共参战，而致引起国际战争”，拒绝蒋介石参战。蒋介石得知消息后，感到很失望。“白团”成员说，如果那时台湾军队真的参战，那么“白团”就得给蒋介石帮忙，为蒋介石策划。
