疑问：C# 小数乘法不对(已解决)

jinyi7016 · 发表于 2015-3-5 14:41:13

本帖最后由 jinyi7016 于 2015-3-5 21:52 编辑

在窗休应用里面，

float x=2.3;
UInt16 tt = (UInt16)(x * 100);

x最后 = 229；
这是为什么？
怎么得到230？

一天的蓝 · 发表于 2015-3-5 14:51:05

因为运算结果以浮点数保存并不正好是230，可能大一点可能小一点；
四舍五入。
以上

XIVN1987 · 发表于 2015-3-5 14:52:13

应该是因为浮点数表示不精确导致的
我用Pthon试了一下：

如果对这个乘积结果强制转换成整数的话，那肯定就是229了

brahen · 发表于 2015-3-5 14:53:17

你先把tt声明为double，会发现tt实际上可能是229.99999999....，但是你一取整就变成了229。用c在linux上就是这样。

hz_fujian · 发表于 2015-3-5 15:00:18

建议在转换结果加0.5即可

javenreal · 发表于 2015-3-5 15:23:34

转换为整数前先四舍五入，加0.5 。

alcohol · 发表于 2015-3-5 15:30:29

建议使用取整的函数，使用函数完成此功能，不是直接显式转换 —— 显式转换时，编译器不知道你要干什么，他就直接截取了

alcohol · 发表于 2015-3-5 15:32:22

补充下，百度关键词：“C# 取整函数”，得到传送门。

gongxd · 发表于 2015-3-5 15:33:18

上取整函数

沧海清风 · 发表于 2015-3-5 15:34:33

float x=2.3f;

LingYi · 发表于 2015-3-5 16:54:46

UInt16 tt = (UInt16)(x * 100.0 + 0.5);

airwolf09921 · 发表于 2015-3-5 21:19:33

11楼正解

jinyi7016 · 发表于 2015-3-5 21:52:29

感谢各位，就+0.5吧。

zhousun · 发表于 2015-3-5 22:19:05

不用，你多写一位或2位即可，即 x=2.300 肯定没有问题了

yuyu87 · 发表于 2015-3-6 17:15:07

用转换函数吧，不要用这种声明方式，用自带的转换函数

jinyi7016 · 发表于 2015-3-6 22:17:08

yuyu87 发表于 2015-3-6 17:15
用转换函数吧，不要用这种声明方式，用自带的转换函数

刚学，是哪个函数？

yuyu87 · 发表于 2015-3-9 08:33:22

jinyi7016 发表于 2015-3-6 22:17
刚学，是哪个函数？

conv****.TO***
具体的记不清了，会有语法提示的，看提示吧，

lw2012 · 发表于 2015-3-9 08:55:04

学习了》。。。。。以前还真没注意过这个问题。

wudicgi · 发表于 2015-3-9 10:17:18

没有人提 decimal 类型吗？没有这类问题，只是运算效率比 double 低

阿莫论坛20周年了！感谢大家的支持与爱护！！