云天励飞副总裁郑文先:AI进入推理时代 国产芯片迎窗口期

第二个瓶颈则来自高企不下的成本。"现在AI推理的成本偏高,限制了AI的大规模应用。"郑文先指出, 大模型训练所需的算力资源、数据中心背后的电力和用能支出等一系列成本,最终都会叠加到企业身 上,推高整体研发投入,使AI产品和解决方案的商业化承压。 对于外界反复讨论的"AI泡沫"问题,郑文先态度相对理性,"泡沫和繁荣本就是一体两面。"他认为,人 工智能作为第四次工业革命的关键性技术,未来必然是一个底层"根技术",将深度嵌入各个产业的发展 进程之中,"即便存在泡沫,也只能说是阶段性的短暂过热。随着各种壁垒和瓶颈不断被打通,未来仍 将是一项具有划时代意义的技术。" 郑文先介绍,云天励飞自2014年成立起就在持续投入AI推理芯片研发,已推出四代基于深度神经网络 架构的自研NPU,并基于最新的NPU架构推出多款芯片,可应用于端侧与边缘侧AI推理场景。 郑文先还谈到,公司正在研发的新一代芯片会采用GPNPU架构,"一方面更好适应GPU的CUDA生态, 为客户模型牵引提供方便;另一方面又兼顾NPU的高效和灵活。"他表示,这种架构下的产品在成本端 更具优势,也更符合未来大模型在端侧与边缘侧规模化落地的实际需求。 21世纪经济报 ...