amobbs.com 阿莫电子技术论坛's Archiver
论坛首页
›
傻孩子专栏
› 又是一个入门问题:float 赋值之后用studio观察变量 发现不对。
liudeee
发表于 2009-5-5 14:04:41
又是一个入门问题:float 赋值之后用studio观察变量 发现不对。
我在定义了float a变量后 对其赋值为 a = 65.659, 再用studio软仿 发现a的变成了65.658997,并不是65.659,这是为什么呢?
用atof()函数之后发现转换完的float也不是很精确,要怎么修改呢?
Gorgon_Meducer
发表于 2009-5-7 22:32:35
浮点数使用二进制存储时会产生截断误差,这是无法避免的。
页:
[1]
查看完整版本:
又是一个入门问题:float 赋值之后用studio观察变量 发现不对。