芯端侧需求升级推动算力平台革命

• 为什么端侧 AI 需要提升算力，而不是完全依赖云端部署? 端侧 AI 的算力提升主要有到下几个原因。首先,端侧设备如摄像头和传感器不仅仅是输入接 口,它们还需要在本地进行实时处理。典型的云端方案如煤炭演进支持多模态模型,实现实时 互动,但也存在延迟和隐私问题。微软的瑞克、联想的小天和三星的 SCI 等方案则完全在端侧 ,不依赖云端。未来,混合计算模式可能成为主流,云端用于弥补端侧处理的散热不足, 而端侧处理在成本、可用性、隐私安全和个性化定制方面具有明显优势。例如,目前旗舰手机 AI 芯片的算力约为 70 TOPS,而 H100 芯片则接近 4,000 TOPS。根据康德托运的测算,到 2027 年，深层次 AI 手机的计算资源将达到 5 万个 TOPS,对应算力约为 1,200 万 TOPS H100。这表 明,端侧 AI 有潜力成为高频处理的重要组成部分。 更多资料加入知识星球:水木调研纪要 关注公众号:水木纪要 目前各大厂商在端侧 SOC 产品上的进展如何? 各大厂商在端侧 SOC 产品上均有显著进展。从架构上看,英特尔首次引入 MPU,高通在 873 代 产品中将张量计算加速器升级为 NPU,并推 ...