IAR的浮点运算和强制转换为什么会这样?
程序挺简单，通过按键每次增加/减少0.1，控制D/A的输出，并在12864上显示当前D/A输出，下面是main函数里的while循环部分。通过仿真我发现，这每次加/减0.1，实现上每次加上或减去的是一个比0.1要稍大的浮点数，当增加到2然后过渡到0，再从0回到2，一直往下减的时候，我就哭爹了，每次减到1.7时液晶就直接跳到1.5，没有1.6，而D/A输出的却是1.6，我把鼠标放到“i”上观察到的是1.5999几，具体记不清了，然后放到“V_Temp”上观察到的是15，按理说强制转换后这正常，可为什么在1.7之前它们又是一样呢？困惑啊！！！程序如下：
while(1)
{
// DA_IN(Volt_Data(IN_2048,i)); //选用内部基准2.048V
DA_IN(Volt_Data(IN_1024,i)); //选用内部基准1.024V
V_Temp=(int)(i*10);
Vout=V_Temp/10+'0';
Vout='.';
Vout=V_Temp%10+'0';
Disp_HZ(0x80,Vout,2);
switch(P1IN&0x0f)
{
case 0x0e:
do
{
}while((P1IN&0x0f)!=0x0f);
if(i<2)
i+=0.1;
else
i=0;
break;
case 0x0d:
do
{
}while((P1IN&0x0f)!=0x0f);
if(i>0)
i-=0.1;
else
i=2;
break;
} 别用浮点数不就完了吗？ 回复【1楼】i55x
-----------------------------------------------------------------------
不用浮点的话，程序与界面显示就没办法达到直观了，有没有其他解决方法啊 无语，放大10倍，用整数。显示的时候分别取出个十百千位，自己定好哪一位是小数位 "困惑啊"
you never took numerical analysis in college.
or your programming teacher sucks. 回复【3楼】yangsen
-----------------------------------------------------------------------
不知你注意到没，在送到液晶显示时，我已经放大了十倍
回复【4楼】millwood0
-----------------------------------------------------------------------
昨晚和同学讨论下，发现自己写程序时走入了误区，根本就不应该用浮点型变量i，也不该通过强制转换将浮点型转成整型，这个思路就有问题，就像2楼说的，尽量别用浮点数，我这块完全可以通过暂时的整型转浮点型来实现。这个也不能说老师差劲，自己当时就不怎么听课，快考试才拿本书看看，嘿嘿 浮点数也有精度啊,怎么不四舍五入?V_Temp=(int)((i+0.5)*10); 回复【6楼】ioro55555
-----------------------------------------------------------------------
嗯，这样也不错，当时就关注1.799几扩大10倍强制转换后是18，1.599几扩大十倍强制转换后却是15去了，其实换一个思路就好了 楼主去了解下浮点数到底是怎么存储的就会很明白 问题能解决，不用浮点数即可。，
但是我也不懂为什么1.799扩大10倍强制转换后是18，1.599扩大十倍强制转换后却是15了？？？ 同意LS，浮点数是有精度限制的。
LZ运行下：for(f=1.0999999; f<2.0; f+=0.1);
就会发现f值每次自增 0.10000002 ~ 0.10000003 回复【8楼】again
-----------------------------------------------------------------------
刚稍微看了一下，明白了为什么加/减0.1，加/减的是一个比0.1稍大的数，可是却依然不懂“1.799几扩大10倍强制转换后是18，1.599几扩大十倍强制转换后却是15”，大虾能否再给我讲讲？ D/A = 1.599x时，i = 1.5999999x；截尾取整后显示 1.5
D/A = 1.799x时，i = 1.8000000x；截尾取整后显示 1.8
页:
[1]