然而，马云却丝毫没有成功的感觉。事实上，一直以来马云发现在北京很多事情都很难做，有着诸多说不清的问题。尽管很多人把马云团队与外经贸部的合作看做中国的“梦之队”，但实际上马云一直很苦恼，总有一种理想无处伸展的感觉。
尽管后来外经贸部给了马云很高的待遇，希望牢牢拴住马云这棵“摇钱树”，但马云心里比谁都清楚，在北京，在外经贸部，他不过就是一个高级打工仔，职务也随时面临着考验。试想，如果外贸部里有会做网站开发的人才，谁还会找他们？马云知道，自己带着这个团队是来北京创业的，是来追寻互联网梦想的，而不是来北京打工的。
1998年年底，一股网络狂潮席卷全球，中国也首次出现了网络热。形形色色的网站犹如雨后春笋般冒了出来，而新浪、网易、搜狐和雅虎等，也一路迅速发展，而此时，马云面临着两条路—要么留在北京，要么离开。
留在北京，机会是有的，比如当时的雅虎和新浪都想邀请马云加盟，然而，马云认为，北京的网络市场太过浮躁，难成气候。况且，在外经贸部这样的政府企业中，总有太多束缚，无法施展拳脚。直觉告诉马云，中国的网络形式已经发生了巨大的变化，全世界互联网的高潮时代将要来临，而现在正是一个千载难逢的良机，于是，在1998年年底，马云毅然宣布：“我决定回杭州！”
团队的另外12名成员都愿意跟马云回杭州，于是包括马云在内，来北京的13个人，走的时候也一个未落下。回到杭州后，马云坚定地说：“我一定要创办出全世界最好的公司。”最终马云成功了，这个公司就是阿里巴巴。但让所有人都意想不到的是，巨型的阿里巴巴集团居然诞生在杭州一个普通的居民小区中，当时的阿里巴巴办公区域不足150平方米，也就是马云的家。
当时，在中国互联网上，阿里巴巴的模式可以说是非常独特的。起初，马云团队里的绝大部分人认为，可行的门户网站应该是像新浪和雅虎那种模式的。但马云的观点却正好相反。马云说：“大部分人都看好的东西，已经轮不到你了。”于是，阿里巴巴没有拷贝任何已有门户网站的形式，而是选择创新。无疑，创新的风险是拷贝的十倍以上。马云此种“出格”之举，放在北京，放在外经贸部或者是国富通的模式中运营，很显然是行不通的。
广东省党政代表团对马云的创业精神和阿里巴巴的运营模式给予了高度的评价。熟悉马云的人都清楚，马云并不是一个低调的人，但他却婉言谢绝了上任何采访节目。在《最具想象力的互联网》上，记者找到了一篇马云曾经的演讲稿，也正是这份演讲稿解释了马云离开北京，到杭州创业的原因。
在演讲稿中，马云说：“当时，我正在为是留在北京还是离开北京去创业而拿不定主意。于是，我自己做了一个假定，如果说我留在北京创业，那么，我们就像是500个孩子中的一个。如果离开北京，回到家乡杭州创业，那么，我们就是杭州唯一的孩子。因为在杭州，至少我们能够得到政府的足够重视。因为，新成立的公司规模都很小，而像北京这样的大城市都比较重视跨国企业，也更加喜欢世界500强，如果是民营企业且刚刚起步，最好是不要来北京。而且，在北京人眼里，我们做得再好，也都是‘外地人’或‘乡下人’。”
从马云的演讲稿中，透露着马云对大城市的一些看法。马云认为，大城市之所以大，是因为有很多外地人融进大城市，并推动了大城市的发展。所以，作为一个大城市，比的不是路宽、楼高，而是胸怀，即考虑如何包容外地人口的就业和创业问题。
据一项新的数据调查显示，曾经被很多民营企业看好的大城市，商业和生活成本变得越来越高。比如中国四大城市之一的上海，截至2007年6月，已经有7000多家浙江民企撤离上海，把重要职能部门或者总部搬迁到了宁波、杭州等地。而在广东这样的大城市，企业数量位居全国第一，但却未能孵化出像阿里巴巴集团这样的巨型企业。
在2007年杭州市浙江人民大会堂举行的第三届中国中小企业电子商务大会上，杭州市市长出席并发表了演讲。他指出，阿里巴巴之所以会选址杭州，正是因为杭州市政府对电子商务和互联网发展的重视以及支持。他表示，尽管杭州市政府离互联网发展的需求还有所差距，但杭州仍然是软件信息业务的发展地。他还指出了最具代表性的电子商务，比如家喻户晓的阿里巴巴和网盛。
另外，杭州是浙江省会和全省经济、文化、政治的中心，是长江三角洲南翼文化、经济、物流和金融中心，是中国东南地区的重要交通枢纽，同时也是著名的现代旅游风景城市。在2001年，杭州被联合国誉为“最佳人居奖”，被世界康乐组织评选为“国际花园城市”。并且，杭州已经与世界上180多个国家和地区，建立起了直接贸易往来关系，同时还吸引了82个国家和地区的商家前来投资，其中有37家是世界500强企业。
近年来，杭州的政治与经济更是发展迅速，被公认为是中国十大综合经济实力最强的城市之一。2009年时，杭州市的生产总值高达5098.66亿元，按可比价估算，比2008年增长了10%，且连续19年实现了两位数的增长效益。而杭州市全年城镇居民人均收入高达26176元，比上年增长了11.2%，其经济增长的速度与稳定性都较强，快于全省和全国1.1个和1.3个百分点，位居大陆省会城市之二。
与此同时，杭州高新技术产业也得到了迅速发展，而且形成了生物工程、光机电一体化、电子信息等高新技术产业链，其信息传播速度位居中国城市前列，并且已经达到了国际先进城市水平。
在马云看来，杭州是他创业的首选之地，主要有以下几方面的原因。
第一，马云是地道的杭州人，如果能在家乡创业，这当然是一种优势；
第二，杭州市和附近的中小型企业聚集了阿里巴巴的客户群；
第三，在二三线城市创业起步快，成功之后，可以辐射国际市场，况且杭州企业品牌在国内占据了一定的市场，而且具有很大的优势；
第四，杭州雄厚的人文、经济、信息、金融及交通等资源，有助于创业者实现理想；
第五，在杭州注册公司不仅注册费用低廉，而且可以形成企业对外的一个窗口，容易取得国内外企业的信赖与合作；
第六，以杭州公司的名义在沪投资置业，可方便金融投资、房产按揭等，这样不仅能安家立业，而且公司的前景也更辉煌。
