#Tensor Core 2 篇
CUDA 13 · CUDA Tile编程模型
为什么在 SIMT 之外还需要 Tile SIMT 让程序员明确安排 thread、warp、shared memory 和同步，控制力很强，但矩阵/张量 kernel 的实现容易绑死在某代硬件细节上。CUDA Tile 把 block 内…
CUDA 07 · GEMM、Tensor Core 与 Attention
为什么 GEMM 是 CUDA 的必修课 通用矩阵乘法： CM×N=AM×KBK×NC_{M\times N}=A_{M\times K}B_{K\times N} CM×N=AM×KBK×N 每个 CijC_{ij}Cij 是长度…