RISC-V生态全景解析5——Vector向量计算技术与SIMD技术的对比

名字好听吗

  j& Y# E. B! N5 F: Q8 t: O5 R
1、SIMD技术简介
6 i+ ?+ U7 S! R; J6 w/ ^4 l. Y传统的通用处理器都是标量处理器，一条指令执行只得到一个数据结果。但对于图像、信号处理等应用，存在大量的数据并行性计算操作，这个时候，提高数据的并行性从而提高运算的性能就显得尤为重要。因此，SIMD技术应运而生。
SIMD的英文全称是Single Instruction Multiple Data，即单指令流多数据技术，SIMD的概念是相对于SISD（Single Instruction Single Data，单指令流单数据）提出的。
' ~9 p* ?3 p5 R0 hSIMD技术最初通过将64位寄存器的数据拆分成多个8位、16位、32位的形式来实现byte、half word、word类型数据的并行计算；在后续，为了进一步增加计算的并行度，SIMD技术开始通过增加寄存器位宽来满足应用对算力的需求。对于传统的SIMD技术，Intel的MMX、SSE系列、AVX系列，以及ARM的NEON架构都是其中的代表。

$ S# R! {& {' ?8 Z! e' P2、向量计算技术简介
提高数据并行性的另一种方式就是向量计算技术。与传统的SIMD技术一样，其也是通过扩展寄存器位宽，来增加计算的并行度；但不同的是，向量寄存器是可变长度的寄存器，而不像SIMD那样嵌入在操作码中。矢量技术的代表就是RISC-VV扩展指令集和ARM的SVE架构。
4 H$ x, a/ w" T! B- O0 h( F( i2 j$ h
3、Vector向量计算技术的优势
相比于传统的SIMD技术，矢量计算技术是一种硬件软件更加解耦的技术，其对编程人员更加友好，是一种软硬件协同的技术典范。
为何这么说呢？可以简单用下述的例子说明一下：
2 |1 ~* W! G+ A" N% Kloop_start:
8 @, p- |" p3 U$ d! B+ b( v4 Ssubs x2,x2,#96
$ C2 o& ^/ D+ c/ ]" V4 R) b& Fldp q3,q4,[x1,#0]
  V6 Y# D6 c( Kstp q3,q4,[x0,#0]
1 {1 r, j1 N1 h. M0 h, H* k2 Sldp q3,x4,[x1,#32]
stp q3,x4,[x0,#32]
ldp q3,x4,[x1,#64]
3 N! f1 k! n! [stp q3,x4,[x0,#64]
, s  Z) x# \( K2 H9 x5 H- Cadd x1,x1,#96
/ g) {' e6 P5 K, K4 u3 Aadd x0,x0,#96
bgt loop_start
3 h4 ]4 Z+ _( I9 _( Q: Y( eLoop_start:
. U8 j! l) K; B7 f! W1 g$ Avsetvli  t0, a2, e8, m4
vlb.v  v0, (a1)
add    a1, a1, t0
sub    a2, a2, t0
7 L% {/ u/ @" Z* h2 Uvsb.v  v0, (a3)
add    a3, a3, t0
; _: J! N0 |+ X  D0 @bnez   a2, Loop_start
上述代码是分别基于ARM Neon指令集和RISC-V V指令集的典型应用程序memory copy。对于ARM的代码部分，LDP和STP分别为指定为128位宽的load和store操作，每次循环操作96个字节。而对于RICS-V的代码，上述的循环控制完全通过vsetvli指令以及sub指令实现，软件不需要显示每遍循环计算了多少数据量，仅需要给出总的数据量即可。即使硬件中矢量寄存器的长度从128变为256，上述代码也不需要进行任何修改。
从两者对比可以看出，由于指令集限定了数据操作位宽，那么每次硬件对并行度的扩展都意味着指令集的扩展以及代码的重写，这将增加更多额外劳动，对开发者也更不友好。
然而随着处理器应用领域的不断扩大，对数据硬件并行性的需求也在不断提高，硬件架构并行度升级似乎成为一种必然趋势。纵观Intel SIMD指令集的发展，从MMX的64位，到SSE系列的128位，AVX、AVX2的256位，以及最新的AVX-512的512位，寄存器的位宽在短短20年里扩大了8倍。这对于软件的适配来说也是不小的工作。
# @& j' `* b  L! j3 \
4、Vector向量计算技术的劣势
/ Z+ X  b- c7 r0 @: ?9 q1 IRISC-V相比ARM Neon等SIMD指令架构来说，有着可变长、软件维护方便等优势。那是否就说明RISC-V 的Vector向量架构就没有任何缺点呢？
其实不然，首先，向量架构带来更灵活的使用本身也可能带来一些负面影响。由于操作数本身不指定操作数类型，需要通过vsetvli指令专门设置，则当出现频繁的数据类型切换时，必然会带来更多的指令数。
另外，除了操作数据类型，向量长度（VL）也是通过vsetvli指令非显示的设置的，在超标量乱序处理器中，若频繁的更改向量长度，则可能带来潜在的性能损失。除此之外，RISC-V V指令集制定时间较短，相比于ARM Neon等发展多年的SIMD指令集，在指令功能的丰富性上尚有欠缺，因此，在碰到一些特定场景时，需要使用更多的指令去实现相应的功能，进一步降低了整体的性能。
. y0 X0 a/ T' y" \  j' a7 K
虽然RISC-V矢量技术还有不完善的地方，但瑕不掩瑜，其解决了SIMD技术带来的二进制不兼容问题，使同一份代码可以跑在基于RISC-V架构的任何矢量位宽的处理器上，这意味着软件维护成本的大大降低，对其生态的建设是具有重大意义的。
而且RISC-V是开源架构，包括我们平头哥在内的众多团体和个人都将成为架构制定的参与者，相信在大家的集思广益下，RISC-V向量架构会更加完善，并将Vector向量技术推向下一个发展高潮。

tick_tock

SIMD单指令流多数据技术，
单个命令同时控制多个数据，显卡中大量应用。
1 q3 X! m+ W$ H

名字好听吗

很厉害的样子。୧(๑•̀◡•́๑)૭