2021年4月8日
浮点数运算后的精度问题
摘要： 浮点数运算后的精度问题 在计算商品价格加减乘除时，偶尔会出现精度问题，一些常见的例子如下： // 加法 0.1 + 0.2 = 0.30000000000000004 0.7 + 0.1 = 0.7999999999999999 0.2 + 0.4 = 0.6000000000000001 // 减 阅读全文
posted @ 2021-04-08 16:34 自由飞翔^_^ 阅读(491) 评论(0) 推荐(1)