Nvidia GPUDirect

Search documents
存储供应商,陷入困境
半导体行业观察· 2025-05-28 01:36
如果您希望可以时常见面,欢迎标星收藏哦~ 在存储管理中使用人工智能几乎是轻而易举的事。它提高了存储管理员的效率,并且对网络安全至 关重要。关键挑战在于存储人工智能数据,以便模型和即将上线的代理能够通过人工智能数据管道 快速访问这些数据。存储硬件或软件供应商是否为此做出了特殊安排,或者依赖于在光纤通道、以 太网和 NVMe 上运行的标准块、文件和对象访问协议,并由中间人工智能管道软件使用这些协议 从其存储中选择和提取数据? 基础存储硬件和软件供应商都采取了不同程度的特殊安排,首先是采用 Nvidia GPUDirect 支持, 以便更快地将原始数据发送到 GPU。这项服务最初仅限于文件,但现在已扩展到通过 RDMA 传 输 S3 的对象。其他 GPU 或 AI 加速器硬件供应商没有与 GPUDirect 等效的服务。在流水线的每 个阶段,原始数据都会逐步转换为 AI 模型可用的最终数据集和格式,这意味着非结构化文件和对 象数据的向量嵌入。 数据仍然存储在磁盘或 SSD 驱动器硬件上,但管理这些数据的软件可以从存储阵列控制器变为数 据库或数据湖,再变为矢量存储,可以是独立的,也可以是数据仓库、数据湖或湖屋的一部分 ...