摘要:
1.double类型运算不精确问题 浮点运算很少是精确的,只要是超过精度能表示的范围就会产生误差。往往产生误差不是因为数的大小,而是因为数的精度。因此,产生的结果接近但不等于想要的结果。尤其在使用 float 和 double 作精确运算的时候要特别小心。可以考虑采用一些替代方案来实现。如通过 St 阅读全文
posted @ 2018-10-08 10:16
一氓
阅读(193)
评论(0)
推荐(0)
摘要:
要想理解原码, 反码和补码的概念, 需要先了解机器数和真值的概念. 1、机器数 一个数在计算机中的二进制表示形式, 叫做这个数的机器数。机器数是带符号的,在计算机用一个数的最高位存放符号, 正数为0, 负数为1. “比如,十进制中的数 +3 ,计算机字长为8位,转换成二进制就是00000011。如果 阅读全文
posted @ 2018-10-08 10:03
一氓
阅读(3052)
评论(0)
推荐(0)
浙公网安备 33010602011771号