1992年，因为找马云做翻译的人很多，马云成立了海博翻译社，请退休教师做翻译。为了生存，马云背着大包小包跑到义乌、广州进货。海博翻译社开始卖花、卖礼品、卖药一年。销售对象从大型医院到赤脚医生不等。
1994年，海博翻译社收入持平。其中，来自西雅图的外教比尔在网上与马云聊天，马云开始寻找机会并决定创业。
1995年初，海博翻译社开始盈利。马云作为翻译来到洛杉矶，沟通实施一项高速公路投资，但未能成功。从洛杉矶飞到西雅图找比尔，比尔带着马云参观了西雅图第一家ISP公司VBN。
1995年3月，马云从杭州电子工业学院辞职。他拿出6000到7000元，向姐姐和姐夫借了1万多块钱，凑了2万块钱创业。
1995年4月马云个人简介，中国第一家互联网商务公司——杭州海博计算机服务有限公司成立。这三名员工分别是马云、马云的妻子张颖和贺一冰。
1995年5月，中国黄页正式上线，马云开始和身边的朋友做生意。此时距离中国可以上网还有3个月的时间。
1995年7月，中国黄页为浙江省外宣办创建了网上宣传浙江经济文化的网站，即“金鸽计划”。
1996年3月，马云决定与杭州电信合并，因为杭州电信也创建了中国黄页来分享市场。中国黄页作价60万元，占股30%，杭州电信出资现金140万元，占股70%。
1997年，受外经贸部邀请在北京成立中国国际电子商务中心（EDI）后，马云决定放弃中国黄页。他以每股20至30美分的低价将其21%的中国黄页股份卖给了该公司，收回了10万多元。之后，马云和他的团队在北京开发了一系列网站，包括对外贸易经济合作部官方网站、网上中国商品交易市场、网上中国技术出口交易会、招商局、网上广交会广交会和中国对外贸易经济合作组织。
1999年3月，马云正式辞去公职。后来，被称为十八罗汉的马云团队回到杭州，筹集到足够的人民币50万元，开始了新一轮的创业，开发了阿里巴巴网站。
1999年4月15日，阿里巴巴网站正式上线。Invest AB副总裁蔡崇信听说阿里巴巴后，飞到杭州洽谈投资。与马云谈了4天后，他决定辞职加入阿里巴巴。
1999年10月和2000年1月，阿里巴巴从软银等国际投资机构共融资2500万美元。
2003年5月10日，马云创办淘宝网马云个人简介，开始抢夺eBay和易趣网的C2C市场。
2004年12月，马云创立第三方在线支付平台支付宝。
2007年11月，马云创立的阿里巴巴网络有限公司在香港联交所主板上市。
在2020福布斯全球亿万富豪榜中，马云以388亿美元位列第17位。