摘要: 第三章——计算机进行小数运算时出错的原因 本章的重点是小数处理 二进制表示小数 二进制小数点后面的位权,第一位是2的-1次幂,第二位是2的-2次幂,这样的规律不仅限于二进制数,在十进制数和十六进制数中同样适用。 计算机运算出错的原因 有一些十进制的小数无法转换为二进制数,比如十进制数0.1,因为二进 阅读全文
posted @ 2024-02-18 17:11 睡觉艺术家 阅读(17) 评论(0) 推荐(0)