后来，在一次管理层会议上，大家又七嘴八舌地讨论起新机构的名字。当时在微软亚洲研究院负责无线小组的李世鹏提出：既然中国的科研体系分为科学院和工程院，那么为什么不借用这个说法，将从事开发的新团队命名为“工程院”呢？
这个提议当即得到了众人的肯定，“微软亚洲工程院”的名字被确定下来。
员工们都有这样一种感觉——工程院和研究院是完美的互补。它们的名字也表明，研究院会继续把重点放在基础研究、概念创新上，而工程院则注重将这些想法付诸实施并转化为看得见的产品。
到了2003年9月，张亚勤又带着管理层在青岛召开了一次会议。他们讨论的一个重要的主题就是给工程院定位：工程院要做什么？工程院不做什么？
讨论过后，一张组织结构图渐渐清晰——这张图以距离产品上市时间的远近来说明各个相关团队和产品之间的关系。
微软亚洲研究院专注于五年后的技术走向；销售团队为半年至一年后的产品服务；而工程院，则着眼于两年后进入市场的产品。
这次会议还决定：未来工程院要引入微软的开发流程和组织架构，即开发、测试和项目经理三个功能小组并驾齐驱、三足鼎立。
那年秋天，微软亚洲研究院组织了十余位“意见领袖”召开圆桌会议。与会者大多数都是中国学术界的带头人，甚至包括中国科学院的专家。张亚勤担心的是，创建微软亚洲工程院会被人看作对基础研究重视不足，甚至可能会被看成雇佣中国廉价劳动力的一个新途径。因此，在这次会议上，张亚勤向与会的专家们解释了微软创办这一机构的动机——把研究人员从产品转化的干扰中解放出来，使他们能有更多的时间从事基础研究。张亚勤说：“建立这样的共识是非常重要的，尤其是在中国。你要想做点什么事情，就一定要赢得支持。”
2003年11月5日，北京嘉里中心大酒店。微软亚洲研究院在为庆祝成立五周年而举行的盛大仪式上，正式对外宣布成立微软亚洲工程院。
前来参加庆祝仪式的前国务委员、中国工程院院长宋健称赞微软这个新成立的机构道：“我看到你们微软人也从中国学了些东西。”
