华为云联合工商银行落地金融业首个Serverless NPU弹性算力调度技术
12月2日金融一线消息,据"华为中国政企业务"公众号,华为与工商银行开展联合创新,成功落地 Serverless NPU弹性算力调度技术方案。实测结果表明,相较于传统算力调度技术方案,Serverless NPU 弹性算力调度技术方案可将千亿MoE大模型推理服务启动时间缩短至百秒级,启动效率提升10倍以上, 实现算力供给模式从"长期绑定"向"按需使用"转型。 12月2日金融一线消息,据"华为中国政企业务"公众号,华为与工商银行开展联合创新,成功落地 Serverless NPU弹性算力调度技术方案。实测结果表明,相较于传统算力调度技术方案,Serverless NPU 弹性算力调度技术方案可将千亿MoE大模型推理服务启动时间缩短至百秒级,启动效率提升10倍以上, 实现算力供给模式从"长期绑定"向"按需使用"转型。 责任编辑:秦艺 责任编辑:秦艺 ...