好久没有上新了,大家有没有想念我们呀!最近AI 的进展实在是太惊人。但是新闻看多了,自然需要有一些来自一线经验深入思考,才能窥见更接近真实的图景。这一期也是Onboard! AI 系列的第三期,接下来还准备了好几期星光熠熠的 AI 专题,请大家关注Onboard!, 不要错过哦!
Hello World, who is onboard?
这一期,我们将眼界放宽到大语言模型(LLM, Large Language Model)本身能力之外,看看 LLM 周边生态系统,包括硬件和软件工具链,如何随着基础模型的发展,迅速迭代,又相辅相成。嘉宾们来自生成式AI的上下游核心玩家,包括Nvidia, Google Cloud 的生成式AI平台 Vertex AI, 全球最火的AI模型库和社区平台 Huggingface, AI infra 初创公司,聊一聊从他们的视角看到的AI发展的机会,挑战与未来。
这一期近2小时的讨论非常硬核,从芯片架构、GPU集群管理,到开发工具,甚至还聊到AI的社会影响,有好几个即兴的精彩话题。术语和英文不少,还请多包涵,在show notes 中尽量为大家做好笔记。
话不多说, enjoy!
嘉宾介绍
Jiajia Chen: Senior Product Manager @Nvidia Omniverse, AI infra, Autonomous vehicle data platform; ex-Cisco
Han Zhao: Staff software engineer @Google Cloud Vertex AI
Tiezhen Wang: Software engineer @Huggingface, ex-Google Tensorflow
Ce Gao: Co-founder & CEO @TensorChord, ex-Tencent, Co-chair @Kubeflow
关于主播
Monica:美元VC投资人,前 AWS 硅谷团队+AI创业公司打工人,公众号M小姐研习录 (ID: MissMStudy) 主理人 | 即刻:莫妮卡同学
我们都聊了什么
02:12 嘉宾自我介绍, fun fact: 最近看到的有意思的AI产品
06:53 Tiezhen 推荐的自然语言编程工具 Cursor, 嘉宾们激辩编程的未来
13:28 深度碰撞:未来还需要编程吗?
23:47 Nvidia GTC 2023 上有什么值得关注的新产品?芯片技术的下一代创新在哪里
29:38 各个大厂新出的芯片针对LLM做了哪些优化?
36:35 管理训练LLM 的大规模GPU集群有哪些挑战?
47:04 以后我们需要专用的推理芯片吗?
52:17 开源界有哪些降低LLM训练和部署成本的尝试?LLM 成本下降边界在哪里?
59:08 LLM 商业生态的未来:开源 vs 闭源?每个企业都需要自己的LLM吗?
68:50 LLM的发展对于传统的MLOps 工具链各个环节有什么影响?
78:11 LLM 会带来哪些监管和社会影响?
90:37 基础模型越来越强大,上层应用和工具如何创造价值?
100:34 对未来AI发展的期待
我们提到了什么
重要名词(感谢 ChatGPT 帮忙!)
参考文章
欢迎关注M小姐的微信公众号,了解更多中美软件和AI的干货内容!
M小姐研习录 (ID: MissMStudy)
大家的点赞、评论、转发是对我们最好的鼓励!如果你有希望我们聊的话题,希望我们邀请的访谈嘉宾,都欢迎在留言中告诉我们哦~