《程序员是怎样跑起来的》第三章

第三章是计算机进行小数运算时出错的原因。主要也是讲了这个原因,读完之后了解到这个原因,是因为有一些十进制数的小数无法转换成二进制数。就会出现错误。因为无法正确表示的数值,最后都变成了近似值。计算机这个功能有限的机器设备,是无法处理无限循环小数的,因此,在遇到循环小数时,计算机就会根据变量数据类型所对应的长度,将数据从中间截断或者四舍五入。

 

此章又详细介绍了双精度浮点数(64位)和单精度浮点数(32位),又对此加深了理解。对于此前不知道的正则表达式,了解到按照特定的规则来表示数据的形式即为正则表达式。单精度浮点数尾数部分的正则表达式如何变化还没完全理解,文章中出现的EXCESS有些不太懂,在表示负数时不时用符号为位,又怎么样表示,自己还得多看几遍。

posted on 2019-01-27 20:45  T蓝水  阅读(105)  评论(2编辑  收藏  举报