为什么说浮点数的定义要谨慎?

关于浮点数的定义,可以使用float或double类型来定义32位或64位的长度。浮点数在计算机中的存储方式遵循IEEE 754 浮点数计数标准,可以用科学计数法表示为:

(S)1.M...*2^E

  任一浮点数,是由符号(S)、阶码部分(E)、尾数部分(M) 这三个部分组成,floatdouble这两种浮点数在内存中的存储结构如下图:

1、符号部分(S)
0-正 1-负

2、阶码部分(E)(指数部分):

对于float型浮点数,指数部分8位,考虑可正可负,因此可以表示的指数范围为-127 ~ 128
对于double型浮点数,指数部分11位,考虑可正可负,因此可以表示的指数范围为-1023 ~ 1024

3、尾数部分(M):
浮点数的精度是由尾数的位数来决定的:

对于float型浮点数,尾数部分23位,换算成十进制就是 2^23=8388608,所以小数点后的精度最多只有7位;
对于double型浮点数,尾数部分52位,换算成十进制就是 2^52 = 4503599627370496,所以小数点后的精度最多只有16位

 

对于如涉及金额等货币计算要求非常非常精确的计算时,就不能轻易的定义float或double进行运算,否则可能因精度丢失产生诡异的错误。此时可使用字符串或数组来定义长精度的数字,然后使用小学算术的四则运算逻辑进行逐位运算,总之就是要考虑借数、进位等问题,还是有点小复杂的。另外,在Java中的java.math名称空间下也提供如BigInteger和BigDecimal等高精度对象用于精确运算,使用时需注意效率问题。

 

 

 

本文部分内容参考自https://juejin.im/post/5e8fd75ef265da47bb70012c 版权归原作者所有

 
 
posted @ 2020-04-10 15:37  Don  阅读(393)  评论(0编辑  收藏  举报