title: 什么是 GPU 核心?
核心是构成流式多处理器 (SM)的主要计算单元。
H100 GPU 流式多处理器内部架构示意图。GPU 核心显示为绿色,其他计算单元为栗色,调度单元为橙色,内存为蓝色。修改自 NVIDIA 的 H100 白皮书。
GPU 核心类型的示例包括 CUDA 核心和 Tensor 核心。
虽然 GPU 核心与 CPU 核心类似,都是执行实际计算的组件,但这种类比可能会产生误导。相反,从定量计算机架构师的角度来看,将它们视为数据流入并返回转换后数据的"管道"可能更有帮助。从硬件角度来看,这些管道与特定的指令相关联;从程序员角度来看,则与不同的基础吞吐量能力相关(例如 Tensor 核心的浮点矩阵乘法算术吞吐量)。
流式多处理器 (SM)更接近于 CPU 核心的对应物,因为它们具备存储信息的寄存器内存、转换数据的核心,以及指定和命令转换的指令调度器。