第三章
前一章对二进制有了更加深入的了解,这一章仍然是对计算机的计算问题的深究,在没读这本书之前,在我的认知当中我认为计算机是万能的不会有出错的可能,但面对小数时就会有另一种不同的结果。
计算机对一些十进制的小数无法转换成二进制数,无法正确表示的数值,最后都变成了近似值都会影响程序计算后期的结果,此外计算机是无法处理无限循环小数的,因此遇到循环小数,计算机会根据变量数据类型所对应的长度将数值从中间截断或者四舍五入,所以计算机内部就会出错。
接下来就是浮点数了,浮点数分为单精度浮点数和双精度浮点数,双精度浮点数类型用64位、单精度浮点数类型用32位来表示全体小数。系统
还有就是正则表达式和EXCESS,看的有点迷迷糊糊还需要以后更加深入的钻研。
出现了问题就有一定的办法来解决问题,如何避免计算机计算出错呢?对于程序的目的不同所采用的方法也不同,有一些近似值也不会对最后的程序结果有太大影响,可以回避这些计算错误,还有就是把小数转换为整数来计算,此外采用BCD方法也可以,确保计算的准确性。
浙公网安备 33010602011771号