|
流水线是指将一个较复杂的处理过程分为m个复杂程度相当、处理时间大致相等的子过程,每个子过程由一个独立的功能部件来完成,处理对象在各子过程连成的线路上连续流动,在同一时间,m个部件同时进行不同的操作,完成对不同对象的处理。
|
|
|
流水处理技术是在重叠、先行控制方式的基础上发展起来的。
|
|
|
(1)指令控制方式。指令控制方式有顺序方式、重叠方式和流水方式三种。
|
|
|
①顺序方式。顺序方式是指各机器指令之间顺序串行地执行,执行完一条指令后才取下一条指令,而且每条机器指令内部的各个微操作也是顺序串行地执行。这种方式的优点是控制简单。缺点是速度慢,各部件的利用率低。
|
|
|
②重叠方式。重叠方式是指在解释第K条指令的操作完成之前,就开始解释第K+1条指令,如下图所示。通常采用的是一次重叠,即在任何时候,指令分析部件和指令执行部件都只有相邻两条指令在重叠解释。这种方式的优点是速度有所提高,控制也不太复杂。缺点是会出现冲突、转移和相关等问题,在设计时必须想办法解决。
|
|
|
|
|
③流水方式。流水方式是模仿工业生产过程的流水线(如汽车装配线)而提出的一种指令控制方式。流水(pipe lining)技术是把并行性或并发性嵌入计算机系统的一种形式,它把重复的顺序处理过程分解为若干子过程,每个子过程能在专用的独立模块上有效地并发工作,如下图所示。
|
|
|
|
|
在概念上,“流水”可以看成是“重叠”的延伸。差别仅在于“一次重叠”只是把一条指令解释分解为两个子过程,而“流水”则是分解为更多的子过程。
|
|
|
|
①从级别角度可分为部件级、处理机级以及系统级的流水线。
|
|
|
|
|
④从流水线是否有反馈回路,可分为线性流水线和非线性流水线。
|
|
|
⑤从流水线的流动顺序上,可分为同步流水线和异步流水线。
|
|
|
⑥从流水线的数据表示上,可分为标量流水线和向量流水线。
|
|
|
|
由于流水时机器同时解释多条指令,可能存在对同一主存单元或同一寄存器的“先写后读”的要求,这时就出现了相关。这种相关包括指令相关、访存操作数相关以及通用寄存器组相关等,它只影响相关的两条或几条指令,而且至多影响流水线的某些段推后工作,并不会改动指令缓冲器中预取到的指令内容,影响是局部的,所以称为局部性相关。解决局部性相关有推后法和通路法两种方法。推后法是推后对相关单元的读,直至写入完成。通路法设置相关专用通路,使得不必先把运算结果写入相关存储单元,再从这里读出后才能使用,而是经过相关专用通路直接使用运算结果,以加快速度。
|
|
|
转移指令(尤其是条件转移指令)与它后面的指令之间存在关联,使之不能同时解释。执行转移指令时,可能会改动指令缓冲器中预取到的指令内容,从而会造成流水线吞吐率和效率下降,比局部性相关的影响要严重得多,所以称为全局性相关。
|
|
|
解决全局性相关有三种方法:猜测转移分支、加快和提前形成条件码、加快短循环程序的处理。
|
|
|
条件转移指令的两个分支中,一个分支是按原来的顺序继续执行下去,称为转移不成功分支;另一个分支是按转移后的新指令序列执行,称为转移成功分支。许多流水机器都猜选转移不成功分支,若猜对的机率很大,流水线的吞吐率和效率就会比不采用猜测法时高得多。
|
|
|
尽早获得条件码以便对流水线简化条件转移的处理。例如,一个乘法运算所需时间较长,但在运算之前就能知道其结果为正或为负,或者是否为0,因此,加快单条指令内部条件码的形成,或者在一段程序内提前形成条件码,对转移问题的顺利解决是很有好处的。
|
|
|
由于程序中广泛采用循环结构,因此流水线大都采用特殊措施以加快循环程序的处理。例如,使整个循环程序都放入指令缓冲存储器中,对提高流水效率和吞吐率均有明显效果。流水的中断处理和转移一样,也会引起流水线断流。一般情况下,中断出现的概率要比条件转移出现的概率低得多,因此只要处理好断点现场保护及中断后的恢复,尽量缩短断流时间即可。
|
|
|
RISC中采用的流水技术有三种:超流水线、超标量以及超长指令字。
|
|
|
①超流水线技术。超流水线(super pipeline)技术是RISC采用的一种并行处理技术。它通过细化流水、增加级数和提高主频,使得在每个机器周期内能完成一个甚至两个浮点操作。其实质是以时间换取空间。超流水机器的特征是在所有的功能单元都采用流水,并有更高的时钟频率和更深的流水深度。由于它只限于指令级的并行,所以超流水机器的CCPI(Clock Cycles Per Instruction,每个指令需要的机器周期数)值稍高。
|
|
|
②超标量技术。超标量(super scalar)技术是RISC采用的又一种并行处理技术,它通过内装多条流水线来同时执行多个处理,其时钟频率虽然与一般流水接近,却有更小的CCPI。其实质是以空间换取时间。
|
|
|
③超长指令字技术。超长指令字(Very Long Instruction Word,VLIW)技术由LIW发展而来。VLIW和超标量都是20世纪80年代出现的概念,其共同点是要同时执行多条指令,其不同在于超标量依靠硬件来实现并行处理的调度,VLIW则充分发挥软件的作用,而使硬件简化,性能提高。VLIW有更小的CPI值,但需要有足够高的时钟频率。
|
|
|
|
吞吐率是指单位时间里流水线处理机流出的结果数。对指令而言,就是单位时间里执行的指令数。如果流水线的子过程所用时间不一样,则吞吐率p应为最长子过程所用时间的倒数,即:
|
|
|
|
流水线开始工作,须经过一定时间才能达到最大吞吐率,这就是建立时间。若m个子过程所用时间一样,均为Δt0,则建立时间T0=mΔt0。
|
|
|