科大讯飞申请大模型推理方法相关专利，加快后续处理速度

专利摘要显示，本申请公开了一种大模型推理方法、装置、相关设备及计算机程序产品，涉及人工智能 领域，本申请先获取待处理问题的问题陈述，而后在大模型基于问题陈述进行链式推理过程中，依据当 前推理节点的输入token判断当前节点是否为关键节点，若不是，则对前节点的原始输出token进行压缩 处理，基于压缩处理结果推理后续节点。本申请先对推理节点关键与否进行了判定，而后在进行后续推 理时压缩非关键推理节点的输出token，减少了后续推理过程所需处理的输入数据量，加快了后续处理 速度，有助于优化链式推理，特别是长链式推理的计算效率。 金融界2025年8月6日消息，国家知识产权局信息显示，科大讯飞股份有限公司申请一项名为"大模型推 理方法、装置、相关设备及计算机程序产品"的专利，公开号CN120430418A，申请日期为2025年07 月。 天眼查资料显示，科大讯飞股份有限公司，成立于1999年，位于合肥市，是一家以从事软件和信息技术 服务业为主的企业。企业注册资本231173.4185万人民币。通过天眼查大数据分析，科大讯飞股份有限 公司共对外投资了129家企业，参与招投标项目5000次，财产线索方面有商标信息2744 ...