摘要: 这几天在进行浮点运算时候遇到一个问题,toFixd()给出的四舍五入值“几率性”的出现错误!我们举个列子 : alert(0.1+0.2); //输出 0.30000000000000004 alert(Number(1.005).toFixed(2)); //输出 1.00 alert(Number(1.006).toFixed(2)); //输出 1.01从上面我们可以看到,只有最后一个是正确的。为什么会这样呢?由于计算机是用二进制来存储和处理数字,不能精确表示浮点数,而js中没有相应的封装类来处理浮点数运算,直接计算会导致运算精度丢失。0.1在js里面就需要被表示成 1/16+1/... 阅读全文
posted @ 2013-03-26 19:43 x.radish 阅读(363) 评论(0) 推荐(0)