浮点数运算注意事项

当进行小数之间比较时要小心,因为计算机浮点数存储的精度问题,有时算出的小数不合我们现实,比如8.1/3是等于一个接近于2.7的小数,而不是2.7,正确的比较应该是将比较的小数相减,并规定一个允许误差范围,如果差值在这个范围内,那么可以认为他们相等。当然,如果是直接赋值的小数,或者你确定小数的值是多少时,直接比较即可,因为值是确定的,比如double a = 1.1和double b = 1.1 这两个变量肯定相等。

 

a%b,当a是小数时,公式为a -(int)a / b * b,结果可能为近似值,这样实际结果和这个公式的差值,就可以提供给我们规定误差范围时作为一个依据

posted @ 2022-02-08 17:54  codemelo  阅读(109)  评论(0)    收藏  举报