2016年12月29日
关于浮点误差的一些东西
摘要： 1.貌似累加会因误差，得到的数字逐渐减小 理论上得到的sum应该是40万，但是计算得到的结果是384524.781250！！ 原因在于一个特别大的数加一个特别小的数会产生较大的误差，而差不多的数相加误差较小。 用*100后来再/100的方式可以减少误差 阅读全文
posted @ 2016-12-29 20:32 deepwzh 阅读(175) 评论(0) 推荐(0)