金牛AKI 发表于 2013-9-28 10:43:19

求教浮点数据的运算问题，精度，及其运行机制

是这样的 我要对这个数据进行运算y = (x - 11)/0.327879 ，X的范围是11 --255， 也就是Y最大为744.17696772284897782413634298018（这个结果shi）结果要求精确到小数点后1位就行。x是unsigned char型。这个式子该怎么写呢。
y=((float)((x - 11))/0.327879);可不可以

marx 发表于 2013-9-28 10:50:14

(x - 11)*30499

金牛AKI 发表于 2013-9-28 11:18:21

marx 发表于 2013-9-28 10:50 static/image/common/back.gif
(x - 11)*30499

这样的话，还得除以10000啊

marx 发表于 2013-9-28 11:40:05

金牛AKI 发表于 2013-9-28 11:18 static/image/common/back.gif
这样的话，还得除以10000啊

直接拿来用不行么？？？

金牛AKI 发表于 2013-9-28 12:01:05

marx 发表于 2013-9-28 11:40 static/image/common/back.gif
直接拿来用不行么？？？

1/0.327879 = 30499，你这思想不错，            

jamasliu 发表于 2013-9-28 12:02:07

win8自带计算器有这个功能，xp的不知道去哪里整这个神器。{:biggrin:}

cxning 发表于 2013-9-28 15:15:56

换成整数半算
页: [1]
查看完整版本: 求教浮点数据的运算问题，精度，及其运行机制