JS小数运算出现多位小数的解决方法
今天下午,公司的一位女程序员同事问了一个关于JavaScript小数相加后出现多位小数的问题,一开始我还不相信会有这样的情况(不知是自己没遇到过,还是忘记了),让她调试了一下程序,果真如此!
今天做了一个有趣的测试:0.1+0.2 == 0.3 //false
顿时郁闷,好吧!原来0.1+0.2变成:0.30000000000000004
再来一个 2.4/0.8 =>2.9999999999999996 没办法换种方式,都转换成整数 (2.4 * 100)/(0.8 * 100)
10.22 现在要减去 0.11 结果值又出现了很多的小数 10.110000000000001,然后我就用了 toFixed 方法来过滤小数,但是不知道跟前面那种转换成整数后再执行哪种效率高,好!还是试下再说吧!
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
|
var date1 = new Date();for(var i = 0; i < 10000; i++){ var result1 = (10.22 - 0.11).toFixed(2); }alert(new Date() - date1);//效率低 var date2 = new Date();for(var j = 0; j < 10000; j++){ var result2 = (10.22 * 1000 - 0.11 * 1000) / 1000; }alert(new Date() - date2);//效率高 alert(0.1 + 0.2 == 0.3); //既然返回falsealert(0.1 + 0.2); //既然返回0.30000000000000004alert(parseFloat(0.1) + parseFloat(0.2)); //还是返回0.30000000000000004 |
查了一些资料,一是 JavaScript 浮点数计算的 Bug,另一个是和计算机最终转换成二进制计算有关系,但是为什么不是所有小数都会有这种现象,目前我也不清楚,有时间再去深入研究一下。
解决方法:
解决这种问题两种方法,第一种就是利用 JavaScript 的 toFixed(n) 方法,直接获取 N 位小数,不过,个人觉得这种方法在数据精度上会有一些问题。如果数据精度要求不高的话可以使用。
|
1
|
alert((0.1 + 0.2).toFixed(1)); |
第二种方法就是自己编写运算方法。以下是自定义加法函数,使用此方法进行相加会避免上面问题。
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
|
//自定义加法运算function addNum (num1, num2) { var sq1,sq2,m; try { sq1 = num1.toString().split(".")[1].length; } catch (e) { sq1 = 0; } try { sq2 = num2.toString().split(".")[1].length; } catch (e) { sq2 = 0; } m = Math.pow(10,Math.max(sq1, sq2)); return (num1 * m + num2 * m) / m;}alert(addNum(0.1, 0.2)); |
当然,简单一点也可以写成:alert((num * 3 + 10 * 3) /3); 这样也不会出现 N 多位小数。
alert((num * 3 + 10 * 3) /3); 与 alert(num + 10); 这两种写法计算机在底层转换成二进制运算是有区别的,或许这就是出现上述问题的原因,还有待我们这些程序员或编程入门的朋友去深入研究。
原文链接:http://www.lezhu99.com/2202.html

浙公网安备 33010602011771号