2017年9月22日
double类型数值计算出现误差的解决办法
摘要： 因为公司做的项目几乎都跟金钱、货币有关，所以对数字精确度有相当高的要求，而在开发和维护的时候自然经常会涉及到数值的计算。 但是在测试人员测数值的时候数值跟客户提供的数据比对又总是有差异，基本都是±1块钱或者±0.01之类的； 虽然知道这是在计算机计算的时候，其实这些数字是用二进制保存的，计算后转换成 阅读全文
posted @ 2017-09-22 23:57 EleMMent 阅读(3974) 评论(0) 推荐(0)