2020年6月22日
深入理解IEEE754浮点格式
摘要： 今天看到一个浮点运算的问题, 觉得很有代表性, 就记录一下. 有同事问下面这段代码运行结果是什么, 还很贴心的给了4个选项: 30500 (0.000061 * 500 * 1000000) 与A同量级的近似值 具体值不知道, 但肯定是小于A量级某个浮点数 1024.0 (精确值) #include 阅读全文
posted @ 2020-06-22 01:48 Five100Miles 阅读(1309) 评论(0) 推荐(0) 编辑