GPU编程变天了。 英伟达发布最新版CUDA 13.1，官方直接定性：这是自2006年诞生以来最大的进步。 核心变化是推出全新的CUDA Tile编程模型，让开发者可以用Python写GPU内核，15行代码就能达到200行CUDA C++代码的性能。 消息一出，芯片界传奇人物Jim Keller立即发问： 英伟达是不是亲手终结了CUDA的"护城河"？如果英伟达也转向Tile模型，AI内核将更容易移植到其他硬件上。 Jim Keller参与设计过AMD Zen架构、苹果A系列芯片、特斯拉自动驾驶芯片的"硅仙人"，他的判断在行业里相当有分量。 那么问题来了：CUDA这次到底改了什么？为什么会被认为是"自毁长城"？ GPU编程范式从"线程"到"瓦片" 要理解这次更新的意义，得先回顾一下传统CUDA编程有多折磨人。 过去20年，CUDA一直采用SIMT（单指令多线程）模型，开发者写代码时，需要手动管理线程索引、线程块、共享内存布局、线程同步，每一个细节都 要自己操心。 想要充分利用GPU性能，特别是用上Tensor Core这类专用模块，更是需要深厚的经验积累。 CUDA Tile彻底改变了这套玩法： 开发者不再需要 ...

梦晨 发自 凹非寺 量子位 | 公众号 QbitAI GPU编程变天了。 英伟达发布最新版 CUDA 13.1 ，官方直接定性： 这是自2006年诞生以来最大的进步 。 核心变化是推出全新的 CUDA Tile编程模型 ，让开发者可以 用Python写GPU内核 ，15行代码就能达到200行CUDA C++代码的性能。 消息一出，芯片界传奇人物 Jim Keller 立即发问： 英伟达是不是亲手终结了CUDA的"护城河"？如果英伟达也转向Tile模型，AI内核将更容易移植到其他硬件上。 Jim Keller参与设计过AMD Zen架构、苹果A系列芯片、特斯拉自动驾驶芯片的"硅仙人"，他的判断在行业里相当有分量。 那么问题来了：CUDA这次到底改了什么？为什么会被认为是"自毁长城"？ GPU编程范式从"线程"到"瓦片" 要理解这次更新的意义，得先回顾一下传统CUDA编程有多折磨人。 过去20年，CUDA一直采用 SIMT（单指令多线程）模型 ，开发者写代码时，需要手动管理线程索引、线程块、共享内存布局、线程同步， 每一个细节都要自己操心。 想要充分利用GPU性能，特别是用上Tensor Core这类专用模块，更 ...

Core Insights - DeepSeek v3.2 introduces a significant change by adopting TileLang, a domain-specific language for GPU kernel development, which has garnered substantial attention in the tech community [1][4][6] - TileLang is noted for its performance, allowing developers to implement attention mechanisms faster than existing solutions, with claims of achieving a 30% speed increase over Flash Attention 2 [3][5] Group 1: TileLang Overview - TileLang is designed to simplify the development of high-performance GPU/CPU kernels, comparable to NVIDIA's CUDA, and is recommended by DeepSeek for experiments due to its debugging and rapid iteration advantages [4][13] - The language is built on a Python-like syntax and operates on top of the TVM compiler infrastructure, enabling developers to focus on productivity without sacrificing performance [13] - TileLang features three programming interfaces catering to different developer skill levels, from high-level abstractions for beginners to low-level controls for performance experts [15] Group 2: DeepSeek's Adoption of TileLang - DeepSeek's collaboration with TileLang was first highlighted at the Beijing Zhiyuan Conference in June, where a report indicated that TileLang's operator implementation could be faster [6][19] - The DeepSeek team has utilized TileLang for rapid prototype development, subsequently optimizing performance with lower-level methods [17][23] - Following the release of DeepSeek v3.2, TileLang's capabilities were validated, demonstrating its effectiveness in model training [23]