请教一下在程序的算式中将一个数乘1000再除1000，结果为什么出现很大差异呢？

balance · 发表于 2011-3-6 20:22:28

unsigned long h
unsigned int D
h=D*23/10; （D为0到200）
h=D*23000/10000; 这样的话，就与上面的式子结果差很远。
我用的是MSP430c语言写的这个程序，因为有个数是23.146，所以想写成23146/1000，结果发现行不通。

ringan865 · 发表于 2011-3-6 20:26:01

整除的话，应该会不同，试试定义成浮点数呢

balance · 发表于 2011-3-6 20:27:58

回复【楼主位】balance
-----------------------------------------------------------------------

刚刚调试到错误地点了，是unsigned int D，影响到了计算结果，改为unsigned long D，就可以了，谁能给讲解一下这个是为什么啊？

oufuqiang · 发表于 2011-3-6 20:28:52

还刚想回帖说“溢出了”，结果楼主自己发现，不错。

boboo · 发表于 2011-3-6 20:29:26

先/1000*23000呢？

billowtust · 发表于 2011-3-6 20:31:01

D为int类型，iar将430的int处理为16位，也就是说unsigned int D最大只能到65535

如果你的D为200，D * 23000就已经溢出了，结果当然不对了

做程序要考虑数据溢出的危险

Elderfox · 发表于 2011-3-10 22:49:45

回复【5楼】billowtust
-----------------------------------------------------------------------
赞同楼上解释

请教一下在程序的算式中将一个数乘1000再除1000，结果为什么出现很大差异呢？

阿莫论坛20周年了！感谢大家的支持与爱护！！