AI部署成本有望降至5万元以内 联想发布推理加速引擎 搭载产品预计下半年上市

《每日经济新闻》记者还在展台现场发现，联想集团此次还展示了搭载上述加速引擎的台式电脑产品。 据展台现场工作人员介绍，该款产品内置了1张中阶显卡、1张显存扩容卡以及"联想推理加速引擎"，整 体造价约在4万元左右，可实现32B大模型的本地训练，预计今年下半年上市，有望进一步降低金融、 教育、法律等领域的企业用户尤其是中小企业用户私有化部署大模型的成本。 据上述工作人员介绍，市面上的32B大语言模型传统训练方案的整体造价很高，如国内某厂商的成本约 在200万元左右，最少需要8张英伟达显卡，对中小企业来说部署成本过高。在联想此次展示的电脑上， 通过内置的"AI Studio"软件平台，用户可将自己的数据库及个性化信息通过自选大模型（32B模型）进 行训练，模型本地训练成本可下降98%。 从实现逻辑上看，"联想推理加速引擎"主要通过高性能并行解码、算子融合优化以及异构计算技术，需 与大模型推理芯片相结合，从而实现多种应用场景下推理速度的提升，同时降低功耗和内存占用。 联想集团董事长兼CEO杨元庆在发布会现场称，消费者将在即将发布的下一代AI PC上体验到"联想推理 加速引擎"。"今天随着AI需求的爆发式增长，端侧计算和 ...