摘要:
所有采用IEEE-754浮点数的语言都存在这个问题: Float对象的精度很高,可以很好的近似表示0.1,但是无法做到完全精确,这会带来一些问题。请考虑下面表达式:0.4 - 0.3 == 0.1 由于圆整错误,0.4和0.3的近似值之间的差值与0.1的近似值并不相同。 对于此问题的一个解决方案就是采用十进制表示实数,而不是二进制。 阅读全文
posted @ 2010-05-31 23:06
小呆也行
阅读(321)
评论(0)
推荐(0)

浙公网安备 33010602011771号