摘要: 在js中进行数学运算时,会出现0.1+0.2=0.300000000000000004的结果,一开始认为是浮点数的二进制存储导致的精度问题,但这似乎不能很好的解释为什么在同样的存储方式下0.3+0.4=0.7可以得到正确的结果。本篇笔记主要通过浮点数的二进制存储及运算,和IEEE754下的舍入规则,解释为何会出现这种情况。 阅读全文
posted @ 2019-10-28 14:40 vivo互联网技术 阅读(596) 评论(0) 推荐(0)