Workflow
算力优化
icon
Search documents
华为“数字化风洞”小时级预演万卡集群方案,昇腾助力大模型运行“又快又稳”
第一财经· 2025-06-11 12:12
大模型训推系统宛如一辆精密调校的赛车,即便搭载顶级引擎(高算力芯片),如果油箱(内存)、 变速箱(带宽)与路况(任务类型)不匹配,仍会陷入" 龟速" 困局。华为研究团队发现,超过 60% 的算力浪费在硬件资源错配与系统耦合上,而传统"人拉肩扛"的优化方法在芯片特性的" 三角 矛盾" (算力 - 带宽 - 容量失衡)前束手无策。 大规模训练集群的利用率黑洞 :大模型训练过程像驾驶中的 " 猛踩油门 " (训练阶段密集计 算), MoE 模型更如混合动力车,需精准平衡计算与内存配比,极致压缩通信占比,稍有不 慎便效率骤降。 动态实时推理系统任务的两极分化 :从短问答(城市道路)到长文本生成(越野山路),推理 阶段硬件需同时满足高吞吐与低延迟,如同要求一辆车兼具超跑的提速能力与越野的持久耐 力,在不同任务场景实现动态效率最优。 复杂万卡集群的长稳运行 : 为突破计算 - 内存动态博弈(服务区分配)、异构任务资源争抢 (车祸变道)及硬件耐久性(车道维护)瓶颈,需实现毫秒级资源再平衡与故障容错,保障作 业万级小时无间断运行。 基于仿真能力,通 过 全量部署空间搜索、动态性能感知调度优化等技术释放算力潜能 ,实现并行 配 ...
新能源及有色金属日报:节后下游采购情绪一般,但宏观因素仍偏利好-20250604
Hua Tai Qi Huo· 2025-06-04 03:01
节后下游采购情绪一般 但宏观因素仍偏利好 新能源及有色金属日报 | 2025-06-04 市场要闻与重要数据 期货行情: 2025-06-03,沪铜主力合约开于 77920元/吨,收于 77650元/吨,较前一交易日收盘0.06%,昨日夜盘沪铜主力合约 开于 77,910元/吨,收于 78,180 元/吨,较昨日午后收盘上涨0.50%。 现货情况: 据 SMM 讯,昨日日内各个品牌电解铜差异明显,盘初持货商报好铜如金川大板、贵溪等升水320-370元/吨,鲁方、 祥光、JCC升水300元/吨附近,而常州地区铁峰、豫光以及上海地区进口金冠金凤等近仅升水150元/吨附近。随着 低价货源成交,整体报价下移,金川等升水300元/吨成交,JCC货源紧张且江西门市消费较好近期来沪货源紧张, 日内成交200-250元/吨。节后首日下游消费清淡,采购情绪下降,且随着价格走跌,下游还盘心理明显。进入第二 交易时段,铁峰、大江PC等成交100-120元/吨,临近上午交易时段末低于百元每吨以下货源亦有成交。非注册紧张, 成交于升水20-50元/吨。 今日仍有进口货源到货,日内上海地区货源虽小幅减少但后续仍有入库,预计今日低价 货源 ...