9.21总结
今天一天满课,晚上按照老师布置的课后作业学习计算机编码与浮点数知识,主要是原码补码反码以及运算精度误差原理。原码直观,反码是过渡,补码利用模运算将减法转为加法,方便硬件实现。另外发现,十进制能除尽的小数,转为二进制可能是无限循环小数,浮点数存储时只能截断,从而产生精度误差,比如0.1+0.2不等于0.3,收获很大。
今天一天满课,晚上按照老师布置的课后作业学习计算机编码与浮点数知识,主要是原码补码反码以及运算精度误差原理。原码直观,反码是过渡,补码利用模运算将减法转为加法,方便硬件实现。另外发现,十进制能除尽的小数,转为二进制可能是无限循环小数,浮点数存储时只能截断,从而产生精度误差,比如0.1+0.2不等于0.3,收获很大。