3.7 如何避免计算机计算出错
计算机出错的原因之一是,采用浮点数来处理小数
避免出错的两种解决办法
1.回避策略,即无视这些错误
2.把小数转换成整数来计算
在涉及财务计算等不允许出现误差的情况下,一定要将小数转换成整数或者采用BCD方法,以确保最终得到准确的数值
计算机出错的原因之一是,采用浮点数来处理小数
避免出错的两种解决办法
1.回避策略,即无视这些错误
2.把小数转换成整数来计算
在涉及财务计算等不允许出现误差的情况下,一定要将小数转换成整数或者采用BCD方法,以确保最终得到准确的数值