Jim Keller:英伟达“自毁”CUDA护城河

如果您希望可以时常见面,欢迎标星收藏哦~ NVIDIA 对其 CUDA 软件堆栈进行了一次重大升级,而标志性的芯片架构师 Jim Keller 认为,这可能标志着该软件独占性的结束。 可以说,迄今为止,在人工智能热潮的推动下,CUDA 在为开发者提供用于创建人工智能工作流程的特定库和框架方面,几乎垄断了 NVIDIA 的 所有市场。据我们所知,没有其他公司能够成功复制如此强大的软件栈。在此基础上,NVIDIA 推出了 CUDA 的一项重大更新——CUDA Tile, 它将传统的 SIMT 方法转变为基于 tile 的方法。我们将在后文中深入探讨这项更新,但芯片架构师 Jim Keller 认为,这或许标志着 CUDA 的护 城河即将终结。 在此次更新之前,CUDA 赋予程序员很大的自主权,让他们可以精细调整诸如图块大小、共享内存中加载的数据以及 GPU 执行所需的计算资源 等参数。但 CUDA Tile 的出现彻底改变了这一切。 NVIDIA 引入了一种基于图块的编程模型和一个名为 Tile IR 的全新底层虚拟机,它将 GPU 视为一个图块处理器。这使得程序员能够将更多精力 集中在核心逻辑上,而不是 GPU ...