利用Matlab对GPU如何加速的方法

haidaowang

Matlab之GPU加速方法

) B! V8 t& F0 v. i! n4 V       Matlab之GPU加速方法
              一般代码加速方法
' _# G& V0 X7 [3 E                     GPU设备确认
8 I. Z4 N5 b2 |( N                     GPU和CPU之间数据传递
              复杂代码加速方法
) l. x/ V3 M$ K% b
  _9 i" N  E) I/ \
3 R6 v% N; x" |/ Z* h一般代码加速方法
9 K( E% D" z4 L1 y
Matlab目前只支持Nvidia的显卡。
1 G; ^6 k( P2 {. o

GPU设备确认

/ ]( S3 U) V9 h& F+ ]
( G2 \2 E; V% Y$ p8 @想知道自己的电脑有没有这个能力，在Matlab中运行 gpuDevice。
只要数据格式是gpuArray格式的，那么计算过程会自动的调用GPU进行计算。
8 u3 h* K6 j2 N

. ~* u! Y0 p$ ^( K: pGPU和CPU之间数据传递

• gpuArray
  4 F' g% W5 u( \

       I） 将CPU内存数据传到GPU内存中

• X=rand(10,'single'); %定义在CPU上的一个10x10的随机初始化数组
•    GX=gpuArray(X);      %在GPU开始数组GX，并且将X的值赋给GX
•    GX2=GX.*GX；         %GPU上执行数组对应位置的点乘
  1 |% q, x6 k6 |

+ b( U9 ]9 \# {8 }0 M
还有很多支持 gpuArray 数据类型的函数，具体可以用 methods(‘gpuArray’) 查看。下列某函数的说明可以用 help gpuArray/functionname 查看：

• gpuArray.ones   gpuArray.colon
• gpuArray.zeros  gpuArray.rand
• gpuArray.inf    gpuArray.randi
• gpuArray.nan    gpuArray.randn
• gpuArray.true   gpuArray.linspace
• gpuArray.false  gpuArray.logspace
• gpuArray.eye
  

9 C8 Q& _$ d2 j* W5 z
* q5 J4 A, u. I其实，这些函数的用法和对应的普通函数的用法都是类似的。

• II = gpuArray.eye(1024,'int32');
• size(II)
• ans=1024 1024
  

! L: u5 S  Y6 D. ?3 y9 z5 b: Q, q, F+ A
0 b/ K+ C' x% E; }9 o! uII）在GPU内存中随机初始化一些内存数据。
0 t: _4 S4 }4 A, T# u

• GX=rand(10,'gpuArray'); %直接在GPU设备上随机初始化一个10x10的数组
• %%常用的随机初始化函数有：eye, ones, zeros, rand, randi, randn.
  

• gather
  

       将GPU内存中的数据拷贝回CPU内存中。
2 H  g, r5 ]; A0 [
6 s5 Q7 O' Y* A) ]$ K3 t

• X2=gather(GX2)       %将GPU内存中的数组GX2赋值给CPU中的X2
  

: m6 c4 r! F6 E. O8 `2 ?TIPS
- F5 h2 C) v/ V6 G- h2 ^! D有时候GPU受限于硬件架构，单精度的计算远快于双精度。这时候可以考虑在拷贝的时候顺便转换一下精度 A = gpuArray(single(B)) 。


复杂代码加速方法

) C# e) E0 y2 B, k3 d对于一些复杂的，无法用matlab内部函数进行GPU加速的代码，matlab还提供了一个更强大的工具，就是调用.cu文件。

matlab+c混合编程把.c,.cc,.cpp等文件编译为能够使用的mex文件。对于CUDA程序.cu，matlab也提供了一套方法来调用，最终编译成.ptx文件。
& X4 ~3 T6 T& m2 b2 u& F" d- Y+ z
; a* F. M. }/ _- X
) R* q9 L/ |) \6 S$ D

yin123

利用Matlab对GPU如何加速的方法