找回密码
 注册
关于网站域名变更的通知
查看: 592|回复: 2
打印 上一主题 下一主题

关于Matlab 和 C的取整操作

[复制链接]

该用户从未签到

跳转到指定楼层
1#
发表于 2018-9-18 15:19 | 只看该作者 回帖奖励 |正序浏览 |阅读模式

EDA365欢迎您登录!

您需要 登录 才可以下载或查看,没有帐号?注册

x
最近的工作涉及到Matlab 和C,对比发现,在数字处理方面存在一些不同,Golden 比较时问题多多啊
( q) w3 K  d4 x; i) s
CMatlab
ceil向正无穷向正无穷
fix向0
round向最近整数
floor向负无穷向负无穷
四舍五入floor(A+0.5)floor(A+0.5)
整数除法truncate直接丢,向0方向取整double型
int转换truncate直接丢,向0方向取整int8/16等,向最近整数,round

, c# A' F, K; Q( U, t. C  g* Q, k; S5 j: y; W
floor(0.5+0.5)=1   floor(-0.5+0.5)=0
Matlab:
round(0.5)=1 round(-0.5)=-1
int8(0.5) = 1   int8(-0.5)=-1
C:
int(2.9) = 2    int(-2.9) = -2
float d=5.0/2.0 = 2.54 n# Q, e$ L4 T0 H* b" D' C/ R
float e=5/2=2.0( V  B7 ^7 `& G: o8 H
float f=(float)5/2=2.5

# W/ D# d* Y5 n" T
关于除法:
整数相除和浮点数相除有所不同。1 g3 [  ^; v; i8 m0 p8 G$ q
浮点数相除得到浮点数,整数相除得到整数,混合除得到浮点数。C 语言规定,整数相除产生的小数部分一律被抛弃,这就是所谓的截断(truncation)。9 l( j% Q2 c3 O) N" R
C99 之前,正整数和负整数相除,如果产生小数部分,则相除的结果是不确定的。' [  K! l9 L) F4 f" |8 s, E. a! P  z
例如:7/-4 的结果可能是 -2,也可能是 -1。C99 规定,正整数和负整数相除,产生的小数部分一律被抛弃。
' N& m/ k8 A- T# m7 j% C运算符的优先级来算的.优先级float-> double <-long <-unsigned <-int <-char,short.

/ x  D6 t7 @$ c5 G
c整数除整数,即使赋给float,也要先取整,取整方式是直接将小数部分丢掉,这个做法的结果就是向0方向取整,也相当于先用绝对值做除法,丢掉余数,加上符号。
+ [9 B6 n+ j( \; g& T  N3 v' @
关于移位操作:
C语言移位直接移动bit位  9 P4 H) H. i: q- a: X5 E3 X
Matlab bitshift 先做除法,再truncate,即直接把小数部分丢掉,和C语言的整数除法操作相同
关于 模操作
Matlab 模的结果都是正值,[0,N-1], C的结果[-N+1,N-1]
C语言  -1%4 = -1  -5%4 = -1
Matlab -1%4 = 3   -5%4 = 3

- M% k5 t# n1 Z/ B- E7 i& ~) a
存储本身就会损失精度:
float a=2.1 其实存储的只是2.0999999, a*100/10 = 20,

: J/ H# b0 N# M; o: W

该用户从未签到

2#
发表于 2018-9-18 21:20 | 只看该作者
感谢分享,资料不错
您需要登录后才可以回帖 登录 | 注册

本版积分规则

关闭

推荐内容上一条 /1 下一条

EDA365公众号

关于我们|手机版|EDA365电子论坛网 ( 粤ICP备18020198号-1 )

GMT+8, 2025-11-24 04:10 , Processed in 0.156250 second(s), 24 queries , Gzip On.

深圳市墨知创新科技有限公司

地址:深圳市南山区科技生态园2栋A座805 电话:19926409050

快速回复 返回顶部 返回列表