2020年5月12日
（十六）浮点数和定点数
摘要： 一、浮点数不精确性 在自算计中打开python命令行输入0.3+0.6我们可以看到输出结果是0.899999，出现这种结果和计算机中对于浮点数的保存方法有关。 二、定点数的表达 假如我们使用四个字节表示一个0~9的整数，32位就可以保存8个这样的整数，使用左边的6个表示整数位，右边两个表示小数位，这 阅读全文
posted @ 2020-05-12 11:03 rxmind 阅读(758) 评论(0) 推荐(0)