title: 什么是利特尔法则？

利特尔法则确立了通过吞吐量完全隐藏延迟 (hide latency)所需的并发量。

并发量 (操作数) = 延迟 (秒) * 吞吐量 (操作数/秒)

利特尔法则被Lazowska等人所著的经典定量系统教科书描述为分析中"最重要的基本法则"。

利特尔法则决定了GPU需要通过线程束调度器 (warp schedulers)进行线程束 (warp)切换（也称为细粒度线程级并行，类似于CPU中的同步多线程）来隐藏延迟 (hide latency)时，必须有多少指令处于"执行中"状态。

如果GPU的峰值吞吐量为每周期1条指令，内存访问延迟为400个周期，那么程序中所有活跃线程束 (active warps)需要400个并发内存操作。如果吞吐量增加到每周期10条指令，那么程序需要4000个并发内存操作才能充分利用这种增长。更多细节请参阅关于延迟隐藏 (latency hiding)的文章。

对于利特尔法则的一个非平凡应用，请考虑Vasily Volkov博士论文第4.3节中关于延迟隐藏 (latency hiding)的以下观察：隐藏纯内存访问延迟所需的线程束数量并不比隐藏纯算术延迟所需的线程束数量多太多（在他的实验中是30 vs 24）。直观上看，内存访问的较长延迟似乎需要更多并发性。但并发性不仅由延迟决定，还由吞吐量决定。由于内存带宽 (memory bandwidth)远低于算术带宽 (arithmetic bandwidth)，所需的并发性结果大致相同——这对于面向延迟隐藏 (latency hiding)且将混合执行算术和内存操作的系统来说，是一种有用的平衡形式。