3.3计算机运算出错的原因

由于前一节了解到将小数二进制数转换成十进制数的方法后,计算机运算出错的原因也就容易理解了。之所以容易出错的原因是“有一些十进制数的小数无法转换成二进制数。例如:十进制数是0.1,就无法用二进制数表示。

上图是小数点后四位能够用二进制数表示的数值(二进制数是连续的,十进制数是非连贯的)。

同时通过这个图我们也可以清晰的认识到即使使用代码清单3-1也无法得到正确结果的原因是:因为无法正确表示数值,最后都变成了近似值,计算机这个功能有限的机器设备,是无法处理无限循环的小数的。

 

posted @ 2023-02-05 10:31  嘎嘎鸭~  阅读(184)  评论(0)    收藏  举报