马云回国之后，立刻召集他的24个朋友开会，和他们讲互联网，讲他在美国的见闻，但是在他的演讲结束之后，23个人都说这事不靠谱，只有一个人说可以试一下。经过一晚的思索，马云还是觉得应该行动起来，不管能不能成事，这种尝试就是一种宝贵的经历。说干就干，马云拿出自己和妻子积蓄的7000元，加上借来的13000元，凑够20000元，创办了海博网络，这也是中国较早的互联网公司之一。1995年，马云正式将海博网络推出，当时根本没人相信他，没有人愿意相信网络这个莫名其妙的东西，但是马云还是不停地推销着他的网络。外人不相信他，他就从身边的朋友下手。
马云做成的第一单生意是杭州望湖宾馆，马云首先到望湖宾馆拿回宾馆的照片和资料介绍，回到家中翻译完成，然后用快件寄到美国，再由美国互联网公司制作网页放上网络，然后将网页打印下来用快件寄到杭州。马云拿着网页给望湖宾馆的负责人看，可是人家还是不相信，后来马云拿出美国互联网公司的电话给他，对他说：“你可以让你在美国的朋友打电话过去问问是不是有这么一回事，如果没有，我立马走人，如果有，就请你付费。”不久之后，世界妇女大会在北京召开，外国代表们在参会之前都去互联网上查找中国宾馆的情况，可是只能查到一家宾馆，那就是望湖宾馆，于是许多代表到了中国之后专程坐飞机飞到杭州望湖宾馆住了两晚。这件事传出去，也就证明了马云并没有撒谎，于是后来马云陆陆续续又接了一些单子。在成功地将小天鹅和北京国安俱乐部的互联网主页发布出去之后，马云的中国黄页在中国开始有了一些名气。到了1997年，中国黄页的营业额竟然做到了700万元，这在当时是一个不可思议的数字。
1996年，杭州电信主动出击，将马云的中国黄页纳入囊中，马云丧失了话语权和主导权，不得已选择了离开。这是他创业以来遭遇的第一次重大失败，但是马云并没有就此颓废下去，在接下来的时间里，马云一直用丘吉尔的“永不放弃”来鼓励自己。
振作：挫折之后不言放弃，马云踏上阿里巴巴之路
1997年，外经贸部向马云抛出了橄榄枝，马云带着自己的团队去了北京。马云为外经贸部做了网站，并组建了一家名为“中国国际电子商务中心”的公司，在北京的14个月里，公司实现了大幅度的赢利，但是马云始终没有成功的感觉，他清楚地知道自己带着团队来北京是来创业的，而不是来打工的。在这种情况之下，马云决定离开北京。
临走的时候，马云对他的兄弟们说，离开北京就意味着我们要从头开始，在接下来的一段时间里我们只能在家里办公，可能发不起工资，打不起车。但是留在北京，我可以把你们推荐给雅虎、新浪，一个月收入可能上万块，你们考虑一下吧。兄弟们都沉默了，最后他们都决定跟着马云回杭州。离开北京之前，他们去了长城，在长城上，大家一起唱起《真心英雄》，唱着唱着就有人哭了起来。他们想不明白，为什么这么长时间辛苦的付出之后竟然得到了这样的一个结果。这是马云遭遇的人生中第二次失败。
1999年，马云到新加坡参加亚洲电子商务大会，在会议上，他正式提出了“亚洲电子商务应该有自己独特的模式”这样一个概念，这几年来的经验让马云已经琢磨出了他自己的亚洲模式——小企业通过互联网建立联系，互通有无，这才是商务电子真正的价值所在。
1999年2月，阿里巴巴在杭州湖畔花园马云的家里成立了，每人每月薪水500元。经历过两次失败之后的马云身上已经没有钱了，他将自己所有的钱拿出来，兄弟们也纷纷掏出自己的钱，一共凑足了50万元，这是大家的所有资产，如果失败，他们就真的失败了，此刻他们已经没有退路，所以他们一定要成功。
