《程序是怎样跑起来的》第三章

         第三章讲了计算机如何通过二进制数来处理数据以及如何避免计算机进行数据运算时的错误。

         首先是讲了计算机中的数据都是通过二进制来处理数据,如何把输入的数据以及数字转化成二进制的方法。其中一种方法是位权公式,位权是用来与各数字相乘的数值。其次是计算机中的小数都是用浮点数表示的,表示小数也有两种类型:单精度浮点数类型(32位   float);双精度浮点数类型(64位   double)。而浮点数又表示用符号,尾数,基数和指数这四部分来表示的小数。除此之外按照特定的规则表示数据的形式称为正则表达式(将小数点前面的值固定为1)。

        数据在计算机中计算也会出错其中一个原因是采用浮点数来处理小数。可以采用两种方式避免这种错误:

 1.回避策略(根据程序目的不同,有些错误可以无视。)

 2.将小数转化成整数计算,最后结果再用小数表示。还讲到了BCD这种方法来得到最精确的数值。

posted @ 2023-02-13 22:05  Lxiaopan  阅读(16)  评论(0)    收藏  举报