Fork me on GitHub
2022年1月13日
Java中单精度与双精度浮点数精度问题
摘要： 单精度浮点数 单精度浮点数最高可精确到1/2^24，也就是1/16777216,什么意思呢？就是说16777216与16777217，如果用单精度浮点数来表示，其结果是一样的。以下Java代码可直观看到精度损失。 /** * @description: 测试单精度浮点数精度 * @author: b 阅读全文
posted @ 2022-01-13 15:10 三脚半猫 阅读(1607) 评论(0) 推荐(0)