求教浮点数据的运算问题,精度,及其运行机制
是这样的 我要对这个数据进行运算y = (x - 11)/0.327879 ,X的范围是11 --255, 也就是Y最大为744.17696772284897782413634298018(这个结果shi)结果要求精确到小数点后1位就行。x是unsigned char型。这个式子该怎么写呢。y=((float)((x - 11))/0.327879);可不可以 (x - 11)*30499 marx 发表于 2013-9-28 10:50 static/image/common/back.gif
(x - 11)*30499
这样的话,还得除以10000啊 金牛AKI 发表于 2013-9-28 11:18 static/image/common/back.gif
这样的话,还得除以10000啊
直接拿来用不行么???
marx 发表于 2013-9-28 11:40 static/image/common/back.gif
直接拿来用不行么???
1/0.327879 = 30499,你这思想不错, win8自带计算器有这个功能,xp的不知道去哪里整这个神器。{:biggrin:} 换成整数半算
页:
[1]