博通用一颗芯片，单挑英伟达InfiniBand 和 NVSwitch

公众号记得加星标⭐️，第一时间看推送不会错过。 来源：内容 编译自 nextplatform 。 InfiniBand 一直被认为是跨 PC、服务器、存储和网络使用的主流结构，但这一努力失败了，InfiniBand 的剩余努力在千 禧年之交获得了第二次生命，成为运行模拟和模型的超级计算机的高性能、低延迟互连。 几十年来，得益于远程直接内存访问 (RDMA) 带来的低延迟，InfiniBand 找到了一个利基市场。RDMA 允许 CPU、 GPU 以及其他类型的 XPU 直接访问彼此的主内存，而无需经过整个网络软件堆栈。这也是Nvidia 五年多前斥资 69 亿美 元收购 Mellanox Technologies 的原因之一。Nvidia 无疑预见到了 GenAI 的蓬勃发展，并知道它需要 InfiniBand 作为 连接 GPU 服务器节点的后端网络，以便它们能够协作训练 AI 模型。 与此同时，在 GPU 服务器内部，Nvidia 需要一种方法来集群 GPU 的内存，以便它们可以共享工作并运行 AI 训练和推 理例程以及 HPC 代码，就像 CPU 具有非统一内存访问 (NUMA) 技术一样，这使得多个计 ...