Workflow
榫卯云平台
icon
Search documents
AI为何成基础设施投资核心驱动力 解读IDC最新报告
Sou Hu Cai Jing· 2025-07-28 09:18
企业级 AI 应用在落地过程中,对 IT 基础架构的性能、资源利用率、容器环境支持、多样化数据存储能 力等方面有较高的要求: l 灵活的计算与存储资源调度:在进行 AI 应用开发时,不同开发组对 GPU 资源的需求量不同,一些开 发任务也不会完全占用一块 GPU 卡的资源;在使用 AI 应用时,不同应用对 GPU 和存储的资源需求也 不尽相同,且需求量可能变化频繁。这些都要求 IT 基础设施能够灵活切分、调度计算与存储资源,同 时支持高性能 CPU 与 GPU 算力,在提升资源利用率的同时满足不同应用/开发任务的资源需求。 l 高性能、低时延的存储支持:对行业大模型进行微调时使用的 GPU 规模较大,要求存储能够为 GPU 并行计算提供高性能、低时延的数据支持。AI 应用的全流程也要面对多个数据源的大量数据读取/写 入:源数据通过预处理,可参与到大模型的微调和推理过程,并对推理形成的文本/语音/视频数据进行 保存和输出。这些工作都要求存储具备高速写入与读取能力。 l 多样化的数据存储支持:上述 AI 应用相关的工作流程中,需要同时处理结构化数据(如数据库)、 半结构化数据(如日志)和非结构化数据(如图像和文本 ...