EP 40. 全英文对话MosaicML联创：创业2年，13亿美金收购，大模型与AI infra的过去与未来

好久不见！OnBoard! 回来啦！这一期又是考验听力的全英文访谈。这次，我们跟亲历者聊聊，今年AI领域最受瞩目的一笔10亿美金的并购：Databricks 今年6月以13亿美金的“天价”，收购了当时成立2年的大语言模型（LMM）基础设施创业公司 MosaicML。

Hello World, who is OnBoard!?

可以说，这是今年最受关注的AI领域收购之一了，之后AI 基础设施领域的巨头和创业公司，都被这次收购推动，开始了融资和产品迭代的热潮。收购的时候，MosaicML 仅有60多人，但是已经推出了 MPT 7B, 30B 两个开源大语言模型，总下载量超过330万。也是最早一批推出开源LLM的公司之一。

这次访谈，Monica 不仅邀请到了 MosaicML 联合创始人、CTO，Hanlin Tang, 还邀请到还有之前来OnBoard! 做过客的非常专业的硅谷成长期投资人， Sapphire Ventures 合伙人，Casber Wang，我们得以从创始人和投资人的视角，一起解读这个有里程碑意义的收购，以及对于生成式AI，AI infra 核心竞争力和未来格局等等话题进行非常有意思的探讨。

准备好你的英语听力，enjoy!

嘉宾介绍

Hanlin Tang (@hanlintang), 现Databricks Neural Networks CTO, 前 MosaicML co-founder & CTO, Intel AI Lab Senior Director, Nervana (2016.9 被Intel 4亿美金收购）创始团队成员

Casber Wang (@CasberW), Sapphire Ventures 合伙人，专注data, infra, 安全等领域，投资了Auth0, JumpCloud, StarTree 等。Sapphire Ventures 是一家资产管理总额超过110亿美金的全球风险投资基金。

Onboard！主持：Monica（推特：@Monica_XieY）：美元VC投资人，前 AWS 硅谷团队+AI创业公司打工人，公众号：M小姐研习录 (ID: MissMStudy) 主理人 | 即刻：莫妮卡同学

我们都聊了什么

01:57 两位嘉宾自我介绍，Hanlin 最近感兴趣的AI产品，以及Casber 最近在AI领域的投资

08:40 LLM 的到来对传统 MLOps 公司有什么影响

14:13 MosaicML 介绍，2021年如何发现这个创业机会的

17:28 ChatGPT 发布以来，MosaicML 经历了哪些重要的里程碑事件，行业有哪些重要变化

21:41 MosaicML 早期客户是哪些公司？

22:55 MosaicML 的几个重要产品决定：一开始为什么要做开源？

26:43 创业公司应该如何思考是否要开源？

34:36 MosaicML 如何做开源商业化？商业化模式如何演进？

37:17 如何思考 LLM serving 和训练平台的产品竞争力和差异性？MosaicML 的平台如何在探索中演进？

42:32 MosaicML 为何推出自己的开源LLM？

45:39 客户如何选择LLM？常见的问题是什么？有什么常见的误解？

51:11 开源和闭源LLM格局会如何演进？如何影响LLM周边的生态？我们能从云计算生态发展历史中学到什么

58:39 客户如何衡量LLM的performance? 客户需要的是怎样的服务？

62:06 LLM 会如何改变SaaS 生态？为什么说我们低估了数据对新的平台的意义？

70:52 为什么说提高LLM 训练效率和成本没有 silver bullet? 做成本优化的公司如何设计商业模式？

82:00 企业如何思考是否要自己训练LLM？还是在已有模型上 fine tune?

89:23 MosaicML 被 Databricks 收购之后会有哪些变化？下一个聚焦的点是什么？

91:32 Casber 作为投资人，如何看待 Databricks 对 MosaicML 的收购？对未来行业有什么影响？

95:44 Hanlin 创业以来对于行业的观点有过什么改变？过去和未来有什么值得关注的变化？

108:52 如果坐时光机到5年后，你最想问的问题是什么？

提到的公司

• MosaicML
• Databricks
• Weights & Bias
• FlowGPT

参考文章

• www.mosaicml.com
• www.youtube.com
• www.latent.space
• blog.replit.com
• www.databricks.com
• www.latent.space

欢迎关注M小姐的微信公众号，了解更多中美软件、AI与创业投资的干货内容！

M小姐研习录 (ID: MissMStudy)

大家的点赞、评论、转发是对我们最好的鼓励！

如果你能在小宇宙上点个赞，Apple Podcasts 上给个五星好评，就能让更多的朋友看到我们努力制作的内容，打赏请我们喝杯咖啡，就给你比心！

有任何心得和建议，也欢迎在评论区跟我们互动~