关于Matlab 取整和 C的取整操作有什么不同

hthjgjkkl · 发表于 2022-5-5 13:42

EDA365欢迎您登录！

您需要登录才可以下载或查看，没有帐号？注册

x

最近的工作涉及到Matlab 和C，对比发现，在数字处理方面存在一些不同，Golden 比较时问题多多啊

. u5 M4 O' r& o4 U

	C	Matlab
ceil	向正无穷	向正无穷
fix	向0	无
round	向最近整数	无
floor	向负无穷	向负无穷
四舍五入	floor(A+0.5)	floor(A+0.5)
整数除法	truncate直接丢，向0方向取整	double型
int转换	truncate直接丢，向0方向取整	int8/16等，向最近整数，round

8 F% J% A4 l8 j, v: o

floor(0.5+0.5)=1 floor(-0.5+0.5)=0

Matlab:

round(0.5)=1 round(-0.5)=-1

int8(0.5) = 1 int8(-0.5)=-1

C:

int(2.9) = 2 int(-2.9) = -2

float d=5.0/2.0 = 2.55 q/ d/ a% J4 h& u
float e=5/2=2.07 O# w# j4 L* [( w: H- X% n5 Z
float f=(float)5/2=2.5

2 V: D( s$ f3 ?2 D3 z

关于除法：

整数相除和浮点数相除有所不同。( ^, X/ S8 T' X1 w1 Y# D: a
浮点数相除得到浮点数，整数相除得到整数，混合除得到浮点数。C 语言规定，整数相除产生的小数部分一律被抛弃，这就是所谓的截断（truncation）。
C99 之前，正整数和负整数相除，如果产生小数部分，则相除的结果是不确定的。0 O1 I, r8 I0 r2 M
例如：7/-4 的结果可能是 -2，也可能是 -1。C99 规定，正整数和负整数相除，产生的小数部分一律被抛弃。2 c# v5 Z: u% w! E
运算符的优先级来算的.优先级float-> double <-long <-unsigned <-int <-char,short.

c整数除整数，即使赋给float，也要先取整，取整方式是直接将小数部分丢掉，这个做法的结果就是向0方向取整，也相当于先用绝对值做除法，丢掉余数，加上符号。

3 \- r) W, w# |+ f2 `

关于移位操作：

C语言移位直接移动bit位 7 Z. \7 \1 k! f1 W6 u0 u' T
Matlab bitshift 先做除法，再truncate，即直接把小数部分丢掉，和C语言的整数除法操作相同

关于模操作

Matlab 模的结果都是正值，[0,N-1], C的结果[-N+1,N-1]

C语言 -1%4 = -1 -5%4 = -1

Matlab -1%4 = 3 -5%4 = 3

8 y: T; ?" w( \; o' _8 O F

存储本身就会损失精度：

float a=2.1 其实存储的只是2.0999999， a*100/10 = 20,