《程序是怎么跑起来的》第三章

本书的第三章中主要讲解了在计算时出现的错误以及出错的原因,在计算机中计算时可能出现的错误是因为有些十进制是不能转化为二进制的,例如像0.1就是不可以转化成二进制的,像0之后可以转换的就是0.0625再往后就变成0.125。在计算机中浮点数分为双精度浮点数和单精度浮点数,double和float,双精度有64位而单精度是32位的。所谓浮点数就是指用符号,尾数,基数和指数这四部分来表示的小数,单精度和双精度都有其指定的一个范围。在计算机中出现十进制转化错误时,有两种方法可以来处理,第一种就是回避错误,第二种就是 将其小数转换为整数来计算。看了本章节之后也对计算机中二进制转化多了一些了解,了解了错误原因以及出现错误的简单处理方法。💪

posted on 2019-02-26 20:22  🙈🙈i  阅读(88)  评论(0编辑  收藏  举报