title: 什么是协作线程阵列？

协作线程阵列对应于 CUDA 编程模型 中线程块层次结构的线程块级别。改编自 NVIDIA 的 CUDA Refresher: The CUDA Programming Model 和 NVIDIA CUDA C++ Programming Guide 中的图表。

协作线程阵列 (Cooperative Thread Array, CTA) 是被调度到同一个流式多处理器 (Streaming Multiprocessor, SM) 上的线程集合。CTA 是 CUDA 编程模型 中线程块 在 PTX/SASS 层面的实现。CTA 由一个或多个线程束 (warp) 组成。

程序员可以指示 CTA 内的线程相互协调。位于 SM 的 L1 数据缓存 中的程序员管理的共享内存 (shared memory) 使这种协调变得快速。与 CTA 内的线程不同，不同 CTA 中的线程无法通过屏障相互协调，而必须通过全局内存 (global memory) 进行协调，例如通过原子更新指令。由于驱动程序在运行时控制 CTA 的调度，CTA 的执行顺序是不确定的，并且一个 CTA 阻塞等待另一个 CTA 很容易导致死锁。

可以调度到单个 SM 上的 CTA 数量决定了可实现的占用率 (achievable occupancy)，并取决于多种因素。从根本上说，SM 的资源是有限的——寄存器文件 (register file) 中的行数、线程束 (warp) 的"槽位"、L1 数据缓存 中的共享内存 (shared memory) 字节数——而每个 CTA 在被调度到一个 SM 上时，都会使用一定量的这些资源（在编译时计算得出）。