计算值类型取值范围时,发现的一条公式


在计算byte类型的取值范围时,无意中发现一条数据公式。

首先我们知道byte类型在内存中占1个字节,而一个字节占8bit,它在内存中的存储方式如下,

符号位 指数位
1 7

 

 

所以最大值为 1111111(2进制),

亮点就在这,在转为10进制的过程,我首先凭经验,判断出这个10进制的值为2的7次方 减1。

但根据2进制转10进制的规则,1111111(2进制)这个值,从0位开始,最高为6次方。

实际最大值的计算过程为 1*2的6次方+1*2的5次方+……+1*2的0次方。即127。

而2的8次为128。由此猜想,2的n次方=2的(n次方-1) + 2的2的(n次方-2)+……+2的0次方-1 

再次计算2的5次方 ,进行验证,果然还是这个结果。

 

posted @ 2017-10-26 17:32  panda521  阅读(410)  评论(0编辑  收藏  举报