UCM(推理记忆数据管理器)

Search documents
中国人工智能专利数量占全球总量的60%
机器人圈· 2025-08-19 10:07
01 中国人工智能专利数量占全球总量的60% 8月14日,在国务院新闻办公室新闻发布会上,国家数据局局长刘烈宏介绍,我国人工智能综合实力实现整体性、 系统性跃升,人工智能专利数量占全球总量的60%,人形机器人、智能终端等领域不断突破。我国数据产业处于 快速发展阶段,市场空间大,已成为数字经济发展的新增长点。国家数据发展研究院的研究数据显示:2024年, 全国数据企业数量超过40万家,数据产业规模达5.86万亿元,较"十三五"末增长117%,预计未来几年仍将保持 较高的增长水平。刘烈宏表示,数据在推动"人工智能+"过程中发挥着关键作用。截至2025年6月底,我国已经建 设高质量数据集超过3.5万个,总体量超过400PB。人工智能模型训练推动了数据交易需求攀升,各地高质量数据 集累计交易额近40亿元,数据交易机构挂牌的高质量数据集总规模达246PB。已布局成都、沈阳、合肥等7个数 据标注基地,助力高质量数据集建设。监测数据显示,2025年上半年主要数据交易机构新上架人工智能领域高质 量数据集产品同比增长2.8倍。 05 苹果计划推出桌面机器人、带屏智能音箱 据外媒援引知情人士消息报道,苹果公司正在加速人工智能领域 ...
算力加速AI硬需求,散热/PCB预计持续受益
Guotou Securities· 2025-08-18 01:06
算力加速 AI 硬需求,散热/PCB 预计持 续受益 特朗普称半导体关税即将出台,税率或高达 200%-300% 2025 年 08 月 18 日 电子 据华尔街见闻报道,当地时间 8 月 15 日,美国总统特朗普在空军一 号上表示,计划在未来两周内对半导体和钢铁征收新关税,并暗示税 率可能高达 200%-300%,导致美股半导体板块普跌。据中国世贸组织 研究会专家表示,政策可能产生双面影响,一方面,高关税或迫使部 分企业回流美国或在美投资以寻求豁免;另一方面,亦有可能加速"去 美国化"趋势。将海外产能转向当地市场销售,外国企业则避开美国 市场构建本土供应链,最终削弱美国的全球产业地位。 算力散热需求凸显,液冷市场关注度持续提升 随着算力密度的不断提升,数据中心及算力设备的散热问题日益突 出。据悉,英伟达旗下 GB300 系统日前正式交付,该系统集成 72 颗 NVIDIA Blackwell Ultra GPU 和 36 颗基于 Arm 架构的 Grace CPU, 全部采用了液冷散热设计。液冷技术作为解决高密散热的核心方案, 市场需求呈现爆发式增长,引起市场关注。IDC 日前发布的《中国半 年度液冷服务器 ...
科创50ETF(588000)强势拉升涨 2.74%,持仓股爆发冲击四连阳
Mei Ri Jing Ji Xin Wen· 2025-08-14 02:53
Group 1 - The core viewpoint of the news highlights the strong performance of the ChiNext 50 ETF (588000), which rose by 2.74% as of 10:05 AM, continuing a three-day upward trend and potentially achieving a four-day winning streak [1] - Huawei officially launched its AI inference innovation technology UCM on August 12, which is designed to enhance inference performance by managing KV Cache memory data, thereby reducing the cost per token for inference [1] - According to a report from China International Capital Corporation (CICC), the rapid iteration of AI technology is leading to an increase in computational power demand, especially with the anticipated release of GPT-5, which is expected to drive market sentiment towards the computational power industry [1] Group 2 - The ChiNext 50 ETF (588000) tracks the ChiNext 50 Index, with 63.74% of its holdings in the electronics sector and 11.78% in the pharmaceutical and biotechnology sector, indicating a concentrated industry distribution [2] - The index is currently near its baseline, and historical trends of the ChiNext suggest significant growth potential in the future, making it an attractive option for investors interested in China's hard technology sector [2]
深夜暴涨、再创历史新高!财政部,出手!20%涨停、3年17倍大牛股,澄清
Sou Hu Cai Jing· 2025-08-13 00:12
4、财政部等3部门印发的《实施方案》,贷款经办机构包括:一是6家国有大型商业银行,工行、农 行、中行、建行、交行、邮储银行。二是12家全国性股份制商业银行,包括中信银行、光大银行、华夏 银行、民生银行、招商银行、兴业银行、广发银行、平安银行、浦发银行、恒丰银行、浙商银行、渤海 银行。三是5家其他个人消费贷款发放机构,包括微众银行、蚂蚁消金、招联消金、兴业消金、中银消 金。 5、财政部等九部门印发《服务业经营主体贷款贴息 政策实施方案》,将按照贷款本金对经营主体进行 贴息,贴息期限不超过1年,年贴息比例为1个百分点。单户享受的最高贴息金额1万元。餐饮住宿、健 康、养老、托育、家政、文化娱乐、旅游、体育等8类消费领域的服务业经营主体贷款,可享受贴息支 持。在2025年3月16日至2025年12月31日期间签订贷款合同且相关贷款资金发放至经营主体的,按照贷 款本金对经营主体进行贴息。 股市动态 来源:光大证券微资讯 热点聚焦 HOT 1、北京时间8月12日晚间,最新出炉的美国7月CPI数据整体符合预期,金融市场对美联储降息的预期 迅速升温。数据显示,美国7月CPI同比上升2.7%,低于预期;环比上升0.2%,符合预 ...
华为正式发布AI推理创新技术UCM 计划于9月正式开源;纳斯达克中国金龙指数涨1.49%——《投资早参》
Mei Ri Jing Ji Xin Wen· 2025-08-12 23:48
Market News - The three major US stock indices closed up over 1%, with the Nasdaq rising 1.39%, the S&P 500 up 1.13%, and the Dow Jones increasing by 1.1%, marking historical highs for both the Nasdaq and S&P 500 [1] - Major tech stocks saw significant gains, with Intel up over 5%, Meta rising over 3% nearing a market cap of $2 trillion, and other tech giants like Apple, Microsoft, and Google increasing by more than 1% [1] - Chinese concept stocks mostly rose, with the Nasdaq Golden Dragon China Index up 1.49%, and notable increases in Tencent Music (nearly 12%), Weibo, JD.com, and Alibaba (over 3%) [1] Industry Insights - Huawei officially launched its AI inference innovation technology UCM on August 12, which focuses on KV Cache management to enhance inference performance and reduce costs per token. UCM is set to be open-sourced by September 2025 [2] - The report by the China Academy of Information and Communications Technology highlights the strategic importance of brain-computer interface technology, predicting a global market size of $40 billion by 2030 and $145 billion by 2040, with significant potential in healthcare and entertainment [3] - A collaboration involving researchers from the University of Science and Technology of China achieved a world record in creating defect-free atomic arrays, laying the groundwork for large-scale neutral atom quantum computing, with the quantum technology market expected to exceed $800 billion by 2035 [4][5]
华为 上新“AI黑科技”
Shang Hai Zheng Quan Bao· 2025-08-12 15:56
为找到推理效率与成本之间的最佳平衡点,华为在论坛上发布一款AI黑科技——UCM(推理记忆数据管理器),以实现更快的推理响应、更长的推理序 列和更低的推理成本。 上证报记者柴刘斌摄 值得一提的是,华为计划于今年9月正式开源UCM,届时将在魔擎社区首发,后续逐步贡献给业界主流推理引擎社区,并共享给业内所有Share Everything (共享架构)存储厂商和生态伙伴。 UCM作答效率与成本的平衡题 "AI时代,模型训练、推理效率与体验的量纲都以Token数为表征,Token经济已经到来。"8月12日,华为公司副总裁、数据存储产品线总裁周跃峰在2025 金融AI推理应用落地与发展论坛上表示。 金融行业率先进行"数据掘金" 目前,华为携手中国银联率先在金融典型场景开展UCM技术试点应用,并联合发布智慧金融AI推理加速方案应用成果。 为什么率先在金融行业应用落地?华为数据存储产品线AI存储首席架构师李国杰对记者表示,金融行业在IT信息化和技术赋能建设中一直走在前列,在投 资和场景需求上具备优势,能够从大量数据中挖掘机会,即"数据掘金"。 当前,人工智能已步入发展深水区,AI推理正进入下一个爆发式增长的关键阶段,推理体 ...
晚报 | 8月13日主题前瞻
Xuan Gu Bao· 2025-08-12 14:37
明日主题前瞻 1、养鸡 | 据界面报道,7月初部分地区白羽鸡毛鸡价格跌破3元/斤,然而到了8月份,毛鸡价格最高飙升至3.7元/斤,鸡苗价格更是从1.5元/只涨至4.2元/只, 还依然供不应求。在肉鸡主产省山东,鸡苗价格涨幅更是惊人,一个多月的时间上涨了300%。 点评:业内人士表示,前期祖代进口量的减少已经影响到商品代鸡苗的产量,后续优势的商品苗稀缺。据中国畜牧业协会统计数据,今年上半年我国祖代肉 种鸡的更新量(引种量+自繁量)同比下降36.72%,更新量的下降将会影响7个月以后我国父母代肉种鸡和14个月以后商品代白羽肉鸡的供给。此外,今年 全国大范围高温天气,导致雏鸡存活率下降15%,40-60日龄在栏鸡数量环比减少8%,加剧阶段性供应紧张。8月补栏对应国庆前出栏,养殖户看好节日消费 行情。 2、华为产业链 | 据证券时报报道,华为8月12日正式发布AI推理创新技术UCM(推理记忆数据管理器)。据了解,作为一款以KV Cache为中心的推理加速 套件,UCM融合了多类型缓存加速算法工具,分级管理推理过程中产生的KV Cache记忆数据,可扩大推理上下文窗口,实现高吞吐、低时延的推理体验, 降低每Token推 ...
AI重磅!华为“黑科技”来了
中国基金报· 2025-08-12 07:37
【导读】华为发布AI推理"黑科技",助力解决AI推理效率与用户体验难题 中国基金报记者 邱德坤 8月12日下午,华为正式发布AI推理"黑科技"UCM(推理记忆数据管理器),助力解决AI推 理效率与用户体验的难题。 来源:中国基金报记者拍摄 AI推理是AI产业在下一阶段的发展重心。AI产业已从"追求模型能力极限"转向"追求推理体验 最优化",推理体验直接关联用户满意度、商业可行性等核心需求,成为衡量AI模型价值的黄 随着AI产业的发展迈入代理式人工智能时代,模型规模化扩张、长序列需求激增,以及推理任 务并发量增长,导致AI推理的KV Cache容量增长,超出了显存的承载能力。 目前,国外领先芯片厂商通过从硬件迭代到软件优化,再到生态绑定,构建起AI推理时代 的"铁三角",短期内难以被代替。中国企业在单点硬件技术上有所突破,但国产软件及生态 适配仍有较大差距。 随着信息技术应用创新产业的国产化改造提速,各行业逐步意识到需要加速构建国产推理生 态。UCM的核心价值在于提供更快的推理响应、更长的推理序列等。 以提供更长的推理序列为例,UCM通过动态KV逐层卸载、位置编码扩展等组合技术,将超长 序列的Cache(缓存) ...