2018年3月27日
舍入误差
摘要： 1.11 100 = 111.00000000000001 0.1+0.2!=0.3 true 0.1+0.2 = 0.30000000000000004 0.1 1000 + 0.2 1000 != 0.3 1000 false 听说阿里在做数值计算的时候，都是先乘以一个大的数，在做数值计算 把一 阅读全文
posted @ 2018-03-27 16:01 gloxing 阅读(1866) 评论(0) 推荐(0)