未知机构:广发计算机刘雪峰团队AI2025算力系列二DeepSeek降低-20250303
2025-03-03 02:15
【广发计算机刘雪峰团队 | AI 2025 算力系列(二):DeepSeek降低本地化部署成本,算力一体机放量有望】 根据DeepSeek官方知乎账号,DeepSeek-V3/R1 推理系统通过大规模跨节点专家并行、双batch重叠和动态负载均衡 等技术,显著提升吞吐量并降低延迟。 若所有tokens按照DeepSeek R1定价计算,其成本利润率理论值达545%(日均成本8.7万美元,理论收入56.2万美 【广发计算机刘雪峰团队 | AI 2025 算力系列(二):DeepSeek降低本地化部署成本,算力一体机放量有望】 根据DeepSeek官方知乎账号,DeepSeek-V3/R1 推理系统通过大规模跨节点专家并行、双batch重叠和动态负载均衡 等技术,显著提升吞吐量并降低延迟。 一方面,由于一体机对于推理算力性能要求较低,在这一场景中可替代英伟达等海外AI芯片的国产AI芯片的选择 范围更广;另一方面,考虑到当前采购算力一体机的下游以国企、央企和金融类企业为主,其对于硬件设备采购 的国产化率有一定要求的情况下,包括华为昇腾、寒武纪思元及其他国产AI芯片有望在此趋势下放量。 若所有tokens按照Deep ...