2019年6月5日

关于JS浮点数数值计算会产生舍入误差的问题

摘要： 问题现象： 0.1加0.2的结果为：0.30000000000000004，如图所示： 问题原因： 我们知道，能被计算机读懂的是二进制，而不是十进制，所以我们先把 0.1 和 0.2 转换成二进制看看： 双精度浮点数的小数部分最多支持 52 位，所以两者相加之后得到这么一串 0.0100110011 阅读全文

posted @ 2019-06-05 11:04 牧云流飒 阅读(427) 评论(0) 推荐(0)

导航