摘要:
最近在做一个计算器,发现0.1+0.2!=0.3,感觉计算机有时候也是有问题的。了解资料才看到小数点在计算机中是以二进制表示,而有些小数用二进制表示是无穷,所以才会出现上面这种精确度的问题。· 一些浮点数表示成二进制 十进制 二进制 0.1 0.0001 1001 1001 1001 ... 0.2 阅读全文
posted @ 2017-03-14 13:09
eval_met
阅读(3291)
评论(0)
推荐(0)
浙公网安备 33010602011771号