jsjjccc 发表于 2009-8-29 11:05:53

VB一个long变量与运算结果怎么这样

Dim a As Long
a = &H112233'写个数做测试
a = a And &HFF00'我想只留下FF处的一字节
Text1 = Hex(a)

最终Text1的结果是112200,只屏蔽了最低一字节

ss_spark 发表于 2009-8-29 11:52:36

Dim a As Long
a = &H112233
a = a And &H100FF00    '注意十六进制值
a = a \ &H100          '右移8位
Text1 = Hex(a)

你的问题可能是由于十六进制的写法导致的,你输入 &H00FF00 时,VB自动会将去了前面的"00"而变成&HFF00,这样结果就不对了,所以要对其处理一下,在&H00FF00前面加多一个数,这样就可以啦。

一句话可以写成这样: Text1 = Hex((a And &H100FF00) \ &H100)

*
fvar的提醒更改为:Text1 = Hex((a And &HFF00&) \ &H100)

idodi 发表于 2009-8-29 12:15:40

根本原因是
&HFF00 其实是 &HFFFFFF00

LS说的对

favr 发表于 2009-8-29 12:21:11

自己做一下类型强制转换就好了
例如你用了:
a = a And &HFF00
这样VB编译器会把&HFF00做整数用,把a的低2字节和&HFF00做AND运行,如果你这样写:
a = a And &HFF00&
就把 &HFF00 强制为长整数&H0000FF00和a做AND运行,就能得到你需要的结果了。

ss_spark 发表于 2009-8-29 12:21:15

有时所谓的"智能"会让人变愚蠢。;)

ss_spark 发表于 2009-8-29 12:25:14

LS说的对,VB有些数据处理时要在数值的后面加上此数据的类型字符,要不然会出现很多意外的问题。

ss_spark 发表于 2009-8-29 12:34:48

如:
% Integer
& Long
! Single
# Double
@ Currency

$ String

favr 发表于 2009-8-29 12:50:53

唉,本来不想说了的,但……。
很多人都认为国内工程师浮躁,我有时觉得不少人还极端,人其实都是差不多的,这大多是应试教育的结果。

写软件的自然就需要一个合适的编程语言,就象武士需要兵器一样,拿刀的不要笑拿棒的,不要以为没刃就杀不死人,很多时候一棍下去和一刀下去产生的结果区别并不大。编程语言其实也差不多,现在流行的这几种语言做开发的话差别并没有有些人想的那么大。
VB有VB的规则,做快速开发并不意味着程序员就可以不关心基础,像数据类型这些基础还是需要充分理解的,例如:long AND int 这样的运算,如果没有一个规则就要进行类型强制检查,在大多数情况下是不必要的,只要规定好一个规则,大家遵守,如果程序员需要不同的规则,自己定义一下就OK。
a AND &HFF00 和 a AND &HFF00&的区别作为程序员应该能很好理解,并且应该明白这样计算机做了些什么,否则就有点……了。
知其然,还应该知其所以然。
页: [1]
查看完整版本: VB一个long变量与运算结果怎么这样