“（虽然）剧情和角色都不记得了，但我现在还记得，在看这部剧集时，我被其中人物生活和工作的环境，以及他们之间的对白深深震撼——我突然感到，自己好像太久地远离所生长的那片故土，对她的变化是如此陌生。”张宏江说。从那以后，回国的想法就不断在他脑海里闪现，驱使他寻找各种回国工作的可能。
半年后，张宏江得知微软将在北京成立一家基础研究机构，领头人正是业内赫赫有名的李开复和张亚勤，而他们正在招募计算机领域的顶尖人才回国加盟。很快，李开复就找到了张宏江。随后，张亚勤又对他进行了说服工作。
那个时候，对张宏江而言，回国的念头已经不可遏制。但基于多年来理性判断的惯性思维，他还是决定在回国之前先回去看看未来的工作和生活环境。
当时正值1999年初春。一天，张宏江来到北京的一个房屋租赁中心了解租房的行情。中午，他在一家饭馆吃饭，窗外霎时狂风大作，天空变得昏黄。张宏江心里“咯噔”一下，旋即明白，这就是传说中的“沙尘暴”。
沙尘暴和污染，正是一些朋友劝他“慎行”的原因。但张宏江却立即决定，这件事必须从给太太的“考察报告”中删除。
后来，他回忆道：“那时，我的心其实已经回来了。感性的‘东风’压倒了理性的‘西风’，所以回国看到的一切都能从正面支持自己的决定，负面的印象都能够被潜意识所忽略。”1999年4月13日，张宏江回国并加入微软中国研究院。
现在，在张宏江办公室的墙上，仍挂着他获得的10项美国专利的纪念匾；书架上摆着一摞微软公司颁发的“专利石”（Patent Cubes），每块石头上都刻着他的名字、专利名称和提交申请的日期。此外，张宏江独自撰写及与他人合着的论文数量达到400篇。
由于张宏江在搜索和信息检索领域所取得的重要研究成果，加盟微软仅两年，他就被提升至Partner（合伙人）级。在微软的级别体系中，一名研发人员能成为“合伙人”，意味着他已经被认为是不可缺少的人才。2003年，美国电气电子工程协会授予张宏江院士（Fellow of IEEE）称号。
除了个人在学术上的成就，张宏江在研究院带领的多个团队也颇有建树——多媒体计算、自然语言处理、分布式计算系统和搜索这4个项目都是对微软而言举足轻重的技术，其中，搜索项目当时刚刚被确定为微软的战略重点。
在微软亚洲研究院度过异常忙碌的四年后，张宏江意气风发。他心里盘算：“是时候放松一下，和孩子们玩玩了。”但没想到，这时张亚勤提出让他带头做工程院，打破了他的“美梦”。
