《程序是怎样跑起来的》第三章

计算机之所以会出现运算错误, 是因为有一些十进制的小数无法转换成二进制数。计算机计算出错的原因也是因为采用浮点数来处理小数(另外,也有因“位溢出”而造成计算错误的情况)。处理的计算机出错的措施①回避策略,即无视这个错误,只要得到近似值就可以了,那些微小的误差完全可以忽略。②把小数转换成正数来计算。

posted @ 2019-01-27 19:34  66666677  阅读(66)  评论(0编辑  收藏  举报