关于 AI Infra 的一切

本文嘉宾朱亦博可以说是国内最了解 AI Infra 的人之一，从微软、字节 AI Infra 负责人到谷歌、再到阶 跃联创，他的职业经历几乎和 AI Infra 的发展并行。 以下为本期对谈内容，文章经过删减整理： 曲凯：从你的视角来看，怎么理解 AI Infra？ 亦博：AI Infra 包括硬件和软件两部分。 硬件是指 AI 芯片、GPU、交换机等设备。软件层面我喜欢用云计算来类比，可以分为三层： 最底层类似 IaaS，解决的是最基础的计算、通信和存储问题。 中间一层类似 PaaS，包含资源调度、资源管理等平台。MaaS（Model-as-a-Service）就归属这一层。 最上层近似 SaaS 应用层，但在 AI Infra 领域，我更倾向于把这一层理解为训练及推理框架的优化层。 曲凯：可以说你的职业生涯跟 AI Infra 的发展基本是同步的吗？ 亦博：是，但我其实是第二批 AI Infra 人，第一批是贾扬清、李沐、陈天奇这些有算法背景的人。他们 当时要做先进的算法，需要充分利用 GPU，于是就做了 AI Infra。 曲凯：所以是第一批人从无到有把这件事做了出来？ 亦博：可以这么理解。我们这第二批 ...