《程序是怎样跑起来的》第三章“计算机进行小数运算时出错的原因”
计算机是会存在程序运行后无法得到正确数值的情况,通过第三章知道计算机进行小数运算时出错原因是由于计算机内部所有的信息都是以二进制数的形式来处理的,因此在这一点上,整数和小数并无差别。不过,使用二进制数来表示整数和小数的方法却有很大的不同。更加深刻的记得用二进制数表示小数的方法是需将各数位数值和位权”相乘,然后再将相乘的结果相加即可实现。知道了什么是浮点数,完全是纸面上的二进制数表现形式,在计算机内部是无法使用的。 计算机是以什么样的表现形式来处理小数的。很多编程语言中都提供了两种表示小数的数据类型,分别是双精度浮点数和单精度浮点数。计算机是功能有限的机器,无法直接处理循环小数。清楚知道计算机进行小数运算时出错的原因。第一次知道正则表达式和EXCESS 系统这两个名词,知道如何避免计算机计算出错,首先是回避策略, 无视错误根据程序目的的不同, 微小的偏差并不会造成什么问题。另一个策略是把小数转换成整数来计算。相比于二进制数和十六进制数来说,使用二进制数很方便,但如果位数太多,看起来就比较麻烦。因此,在实际程序中,也经常会用十六进制数来代替二进制数。