SemiAnalysis--为什么除了CSP，几乎没人用AMD的GPU？

又是SemiAnalysis的一篇分析，Dylan似乎非常执着于对比NVDIA和AMD GPU的各种表现，包括参 数、性能、价格、市场等。之前已经专门写过两篇文章来分析AMD GPU的问题了，而且也被苏妈约 谈过一次了。而今天这篇文章，SemiAnalysis的团队更是花了6个月的时间，来对比两家公司的推理 性能。并最终给出了总拥有成本和租赁市场分析等各种结果。最后也给出了最重要的一个解释：为 什么除了超大规模云服务提供商外，几乎没人使用 AMD 的产品？ 下面就看下SemiAnalysis的这6个月时间，都对比了哪些内容？原始报告已放到星球。报告内容实在 是太长了，53页的pdf，我们就截取文中的重点内容来介绍一下。 测试背景与目标 长期以来，市场上一直存在 AMD 的 AI 服务器在总体拥有成本（TCO）下推理性能优于 NVIDIA 的 说法，为了验证这一说法，研究团队耗时 6 个月对两家公司的推理解决方案展开全面分析与基准测 试。原本以为能得出简单明确的答案，但实际结果远比预期复杂且令人惊讶，不同任务类型如聊天 应用、文档处理 / 检索、推理等场景下，两者的性能表现存在明显差异。对于直接拥有和运营 GP ...