EEPW论坛

高频率处理器访问较慢的存储器会产生一个延迟，该延迟导致执行单元中存在空闲周期，MT的目标就是利用这段空闲周期以增加处理器的总体性能。通过把线程适配到空闲周期中，内核的效率就得到提升。然而，历史已经表明这种多处理实现方法带来的好处还不是很明显。MT本质上是一种单处理器技术，其中只有最小程度的处理器逻辑被复制以支持附加的硬件线程。通常是因为有了程序员的寄存器设置和足够的CPU管理程序状态，操作系统才可能视硬件线程为一个虚拟处理器。

然后处理器逻辑的剩余部分由各线程之间共享，而这会引入一个增加软件复杂度的严重问题。在传统的单处理器上运行两个现有的应用程序，意味着操作系统要在两个应用之间共享处理器资源，通过关联切换(context switch)每秒在两个应用之间交换执行10~100次。

关联切换

正在执行的应用使用保存在处理器寄存器和存储器中的执行状态，这个状态需要与现有的应用交换。在一个MT系统中，当执行单元停止的时候，发生关联切换；关联切换每秒钟可能会发生数十万次。

这种切换程度的极大增加要求在操作系统和MT硬件设计之间仔细协调。必须确保有足够的复制硬件来限制执行状态的保存和再次加载，并确定这不会成为处理器的主要成本。

很少为每个硬件线程进行高速缓存复制。对于软件编写者，这意味着他们要非常清楚更高的关联切换速率对高速缓存以及应用程序带来的影响。

在具有两个独立应用的简单例子中，如果这两个应用只是由操作系统做简单的时间分片的话，MT机执行起来会比单处理器更慢。为了从MT技术获益，软件编写者必须在表达软件线程时非常注意，以使保存在高速缓存中的执行状态在两个线程之间很好地共享。

对于采用MT处理器的应用，这产生了更多的软件复杂度，因为程序员要处理线程对共享的处理器资源的影响。然而，还有一些其它的硬件设计上的问题需要考虑。

多线程硬件

增加硬件线程会导致处理器的复杂度的提高，而没有从根本上改变处理器的微架构，还会影响到设计可以达到的整体峰值时钟速度。复杂度的增加也将增加整体功耗，甚至在执行单线程的时候也是如此。这些MT的复杂度降低了整个应用的性能，即使只有一个应用或一个线程正在运行。

当考虑到所有这些MT的代价相对于有限的性能增加，就很清楚为什么业内越来越多的公司引入双核和多核MP解决方案。MP将一个处理器设计中的大部分复制下来，以从多任务软件中获得最大的性能，而不会引入任何管理共享的处理器资源导致的软件复杂度。

实际上，如果你再次考察在两个独立的处理器上同时执行两个独立应用的案例，会发现总体性能将超过以两倍速度运行的单处理器的翻番的性能。所有操作系统的关联切换和在两个应用之间的所有高速缓存冲突都被消除了，而且每一个应用都能分别以全速持续执行。

对于MP所做的明显假设是：设计的成本要跟硅片面积一样翻番，在把多处理能力添加到嵌入式系统时，MT方法要有效得多。

然而，在任何此类比较中都要考虑总体目标性能要求。采用最新的硅实现技术和高速缓存设计，完全有可能实现MP处理器在相同的硅片面积内提供与MT处理器相同的性能点。但是MP显然具有另外的优势—没有额外的MT软件问题。

多处理要进一步考虑的问题是功耗。MT本质上是一种更为复杂的单处理器，这样就限制了单处理器所有的电源管理需求技术(如时钟门控、待机模式、电压和频率调整等)。

然而，在多处理器设计中，每一个处理器都可以采用这些单处理器技术，还有关闭整个处理器以节省所有耗电的能力。这就使得MP总是给软件提供最大性能，而功耗直接与所完成的任务相关。图1显示了多线程和多内核处理之间的差异。

MT实际上是从差距中获取性能的技术，因为处理器的频率和存储器速度的提升不成比例。显然在这些情形下MT是一种快速修复技术，隐藏了这些不断增长的低效率问题。然而，这样的方式具有有限的寿命和适用性。

这已经由台式机处理器设计所证明，处理器越来越高的时钟速度有一个与功耗相关的硬性极限，而不管其是否支持MT技术。

如果软件具有并发性，更为有效的解决方案可能是直接从单处理器移植到一个可扩展的MP架构。在MP设计考虑了处理器间通信和分布式MP高速缓存间数据共享的影响后，几乎没有另外的相关软件成本。这意味着MP系统可以利用高效的单处理器设计和更佳功效的优势来实现超越MT处理器的性能和功耗的设计点。

可扩展的设计和性能

MP本质上采用的是分而治之的方法，通过把多个处理单元集成在一起，让每一个处理单元能运行一个独立的并发线程，利用模块化设计原理就创建了一个多处理器。

这使得整个设计没有MT这么复杂，风险更低，从而使系统设计工程师能在需要的时候简单地插入另外的处理器。这种设计的简单性使MP比MT的可扩展能力要强得多，因为在MT处理器中与逐渐升高的时钟速度相关的设计成本常常会限制其可扩展能力，特别是当考虑到，因为未命中任意级别的高速缓存而导致重要代价的时候。图2以L2缓存访问为例解释了这种代价。
另一个选择是在单个设计中同时部署MP和MT。然而，已经证实其相关的软件复杂度被现有的多处理器操作系统和软件编写社群严重低估。

在这样的设计中，存在一对基本矛盾，MT需要仔细管理处理器资源的访问和共享，而MP在运行独立应用时具有高效率。许多系统设计工程师发现，实际上在禁用系统的MT后，他们实现了更高的性能。

考虑到许多软件应用可能已经考虑到每种解决方案的特点而为其专门设计，所以笼统地声称一种方案比另一种更好是不明智的。然而，基于传统的单处理器的MP具有更大的可扩展性，所以在选择开发策略的时候，软件设计工程师现在就可以从一定程度的灵活性中获益，他们感到可以为未来一段时间内软件架构不需要变化而放心。

作者：John Goodacre

多处理器程序经理

ARM公司