2024年9月10日
0.1+0.2 != 0.3 (Java为例)
摘要： 1. 小数的二进制表示 以10.625为例。整数部分进行除2取余的操作，10的二进制为1010。小数部分进行乘2取整操作，直到小数部分为0或达到需要的精度： 0.625*2=1.25 取整数1，小数部分0.25继续计算 0.25*2=0.5 取整数0，小数部分0.5继续计算 0.5*2=1.0 取整 阅读全文
posted @ 2024-09-10 15:54 南风小斯 阅读(132) 评论(0) 推荐(0)