EDA365电子论坛网
标题: 关于Matlab 和 C的取整操作 [打印本页]
作者: abcde1234 时间: 2018-9-12 15:10
标题: 关于Matlab 和 C的取整操作
最近的工作涉及到Matlab 和C,对比发现,在数字处理方面存在一些不同,Golden 比较时问题多多啊
- K3 l# B9 ?+ }+ \, w1 }: [# E
| | C | Matlab |
| ceil | 向正无穷 | 向正无穷 |
| fix | 向0 | 无 |
| round | 向最近整数 | 无 |
| floor | 向负无穷 | 向负无穷 |
| 四舍五入 | floor(A+0.5) | floor(A+0.5) |
| 整数除法 | truncate直接丢,向0方向取整 | double型 |
| int转换 | truncate直接丢,向0方向取整 | int8/16等,向最近整数,round |
| | | |
( K. z) b9 w* p0 s$ W- a# R
/ k1 W. a ~/ ~" D) Z5 o. O6 z
floor(0.5+0.5)=1 floor(-0.5+0.5)=0
Matlab:
round(0.5)=1 round(-0.5)=-1
int8(0.5) = 1 int8(-0.5)=-1
C:
int(2.9) = 2 int(-2.9) = -2
float d=5.0/2.0 = 2.5
/ o" @8 s5 u# X) y2 L6 k, P" c' Q3 Zfloat e=5/2=2.0
* j5 \+ \" @- K# j8 o' n# mfloat f=(float)5/2=2.5
/ n r2 ?) L5 m9 _3 k" ~: ~2 ~关于除法:
整数相除和浮点数相除有所不同。
: M( ?4 x L* O' _( _+ w2 R* _+ R浮点数相除得到浮点数,整数相除得到整数,混合除得到浮点数。C 语言规定,整数相除产生的小数部分一律被抛弃,这就是所谓的截断(truncation)。% j6 O3 [, n6 ]
C99 之前,正整数和负整数相除,如果产生小数部分,则相除的结果是不确定的。' G& ?. t9 T2 A
例如:7/-4 的结果可能是 -2,也可能是 -1。C99 规定,正整数和负整数相除,产生的小数部分一律被抛弃。
- R3 I: M) s+ q9 g# @运算符的优先级来算的.优先级float-> double <-long <-unsigned <-int <-char,short.
c整数除整数,即使赋给float,也要先取整,取整方式是直接将小数部分丢掉,这个做法的结果就是向0方向取整,也相当于先用绝对值做除法,丢掉余数,加上符号。
0 _9 k7 w" O4 G# n$ s3 N) I8 j
关于移位操作:
C语言移位直接移动bit位 8 O7 p1 @% ~. u d
Matlab bitshift 先做除法,再truncate,即直接把小数部分丢掉,和C语言的整数除法操作相同
关于 模操作
Matlab 模的结果都是正值,[0,N-1], C的结果[-N+1,N-1]
C语言 -1%4 = -1 -5%4 = -1
Matlab -1%4 = 3 -5%4 = 3
% t1 N/ \) ?. {4 q% M存储本身就会损失精度:
float a=2.1 其实存储的只是2.0999999, a*100/10 = 20,
' Y8 @; \$ |- H% x7 G
| 欢迎光临 EDA365电子论坛网 (https://bbs.eda365.com/) |
Powered by Discuz! X3.2 |