摘要：
为什么操作小数会出现误差？ 浮点数值的最高进度是17位小数，但在进行运算的时候其精确度却远远不如整数；整数在进行运算的时候都会转成10进制； 而Java和JavaScript中计算小数运算时，都会先将十进制的小数换算到对应的二进制，一部分小数并不能完整的换算为二进制，这里就出现了第一次的误差。待小数 阅读全文
posted @ 2023-11-08 13:27
消除404
阅读(1165)
评论(0)
推荐(0)
|
摘要：
为什么操作小数会出现误差？ 浮点数值的最高进度是17位小数，但在进行运算的时候其精确度却远远不如整数；整数在进行运算的时候都会转成10进制； 而Java和JavaScript中计算小数运算时，都会先将十进制的小数换算到对应的二进制，一部分小数并不能完整的换算为二进制，这里就出现了第一次的误差。待小数 阅读全文
posted @ 2023-11-08 13:27
消除404
阅读(1165)
评论(0)
推荐(0)
|
浙公网安备 33010602011771号