《程序是怎样跑起来的》第三章读后感

 计算机在计算小数时可能会出错,主要是因为有些十进制数的小数无法精确转换成二进制数。例如,十进制数0.1就无法用二进制数精确表示,即使小数点后面有几百位也无法做到。由于计算机只能处理有限的位数,无法表示无限循环的小数,因此在进行小数运算时,可能会出现精度损失或舍入误差。
此外,计算机中的浮点数运算也可能导致误差。浮点数是指用符号、尾数、基数、指数这四部分来表示的小数。由于计算机内部表示浮点数的精度有限,因此在进行浮点数运算时,也可能会出现精度损失或舍入误差。
总之,计算机在计算小数时可能会出错,主要是由于十进制和二进制之间的转换问题以及浮点数运算的精度限制。为了减少这种误差,可以采取一些措施,如使用更高精度的数据类型、采用适当的舍入方法、避免进行大量的小数运算,或者采取回避策略,也就是忽略微小的误差,也能用整数替代小数进行计算等等。都可以有效的改变出错的概率。
posted @ 2024-02-17 21:14  谢佳佳*  阅读(18)  评论(0)    收藏  举报