2024年7月5日
字节面试 用double，1.0-0.9的结果不是0.1，为什么？
摘要： 字节面试 用double，1.0-0.9的结果不是0.1，为什么？ 让我详细解释一下为什么 1.0 - 0.9 在二进制中不能精确表示。 1.0 的二进制表示 1.0 在二进制中可以精确表示。它的二进制表示为： 1.0 = 1.0 (二进制) 0.9 的二进制表示 0.9 是一个无法在二进制中精确表示的小数。二进制小数是通过求和 1/2, 1/4, 1/8, 1/1 阅读全文
posted @ 2024-07-05 15:29 codewd站长 阅读(154) 评论(0) 推荐(0)