随笔分类 -  数学

计算值类型取值范围时，发现的一条公式
摘要：在计算byte类型的取值范围时，无意中发现一条数据公式。 首先我们知道byte类型在内存中占1个字节，而一个字节占8bit，它在内存中的存储方式如下， 所以最大值为 1111111（2进制）， 亮点就在这，在转为10进制的过程，我首先凭经验，判断出这个10进制的值为2的7次方 减1。 但根据2进制转 阅读全文
posted @ 2017-10-26 17:32 panda521 阅读(428) 评论(0) 推荐(0)