摘要: 20220607 0.1+0.2精度丢失问题 为什么0.1+0.2不等于0.3 可以使用BigJS的数学库来进行数据的加减 浮点数转成二进制进行加减,在转成十进制出问题了 0.1从十进制转成二进制 0.1 *2 =0.2 取出整数部分0 0.2 *2 =0.4 取出整数部分0 0.4 *2 =0.8 阅读全文
posted @ 2022-06-07 20:44 zeal666 阅读(73) 评论(0) 推荐(0)