2014年10月24日
算法:四舍六入五成双 ,保留三位有效数字
摘要： 在实际的生产制造统计中,会有精度丢失的情况. 倘若按照 我们平常所用的 四舍五入,(1234舍掉, 56789 进位) 这样会使整体数据偏大(理论模型). 为了使整体数据保持平均,生产制造有这样一种计算方式,也就是 四舍六入无成双. 例如保留3位有效数字: 1.235 => 1.235 1.2354 阅读全文
posted @ 2014-10-24 16:54 兴想事成 阅读(1140) 评论(0) 推荐(0)