3.7如何避免计算机计算出错

计算机计算出错有两种避免该问题的方法:

      首先是回避策略,即无视这些错误。根据程序目的的不同,有时一些微小的偏差并不会造成什么问题。一般来讲,在科学技术计算领域,计算机的计算结果只要能得到近似值就足够了。那些微小差完全可以忽略掉。

      另一个策略是把小数转换成整数来计算。计算机在进行小数计算时可能会出错,但进行整数计算(只要不超过可处理的数值范围)时一定不会出现问题。因此,进行小数的计算时可以暂时使用整数,然后再把计算结果用小数表示出来即可。

      

posted @ 2023-02-09 22:11  原魏薯片  阅读(143)  评论(0)    收藏  举报