matlab菜鸟冲冲冲：取补码后转换为16进制——计算机判断正负数的一场误会

 

 

在处理一个很大的数组的时候，需要使用matlab将该数组中的全部元素取补码后转化成16进制。

原码取补码的最传统的方法是：正数不变，负数按位取反（最高位符号位不取反），然后加1；

当然还有另一种方法：正数不变，负数则将其加上模值。其中的模的大小等于2的n次方（n为表示位数，含符号位）。举例来说：用四位表示的-3，其补码就等于模值16加上-3，等于13。

于是我就用第二种方法的思路写了下面一段代码：

 

function hexval=Compldec2hex(decval)

if(decval>=0)

  res = decval; 

else

  res = 2048 + decval;   

end

hexval = dec2hex(res);

 

注：我用11位二进制数表示decval，所以模是2^11=2048，遇到正数不变，遇到负数就用模去加，即可得补码。

用这个函数Compl去计算单个的数值，没问题，、

如：

 

>> Compldec2hex(120)

ans =

 

78

 

但是在计算一个很大的数组的时候出现了问题，经过观察发现：在数组含有负数的前提下，正数在转换的时候出现问题，比如：

>> Compldec2hex([-140,120,-130])

 

ans =

 

774

878

77E

 

正数120被转换为878，与正确值相差0x800，也就是十进制下的2048，也就说明在数组中有负数的情况下，数组中的正数也被当作负数处理，具体原因应该是计算机默认存储数据的位宽是32位，十进制数120转化成二进制数是111 1000。若数组中不出现负数，计算机认为存储无符号数，将111 1000左补0充满32位；若数组中出现负数，计算机认为存储有符号数，将111 1000的向左扩充满32位并将最高位1扩展为第32位，即1000 0000 0111 1000，而计算机辨认一个数的正负是看其最高位（符号位）的，因为其符号位是1，所以就把120认为是负数了。一场意料之外又是情理之中的误会。

那么，怎么“冰释”这场误会呢？我想了以下几种方法：

1、  限定位宽，在这个具体问题里面就限制11位，但是会发现111 1000还是会被计算机符号位左扩展的，所以行不通；

2、  多加一句if(res>2048)  res=res-2048，但是由于res>2048不能被满足，所以也行不通；

3、  加一句res = bitand(res,2047)，表示将最后的结果与011 1111 1111按位相与，即将11位置0，结果显示可行。