摘要:
过去有一种很普遍的说法是单精度浮点数的有效数字是6到7位。同时也有一个很普遍的问题就是:“6到7位是什么意思?到底是6位还是7位?”。现在似乎主流认知已经变成了单精度浮点数的有效数字就是7位。事实究竟是怎么样的? 先说结论 单精度浮点数 可以保证7位10进制有效数字 。如果一个数字用10进制表示时有 阅读全文
posted @ 2019-01-29 22:06 BlueWanderer 阅读(1438) 评论(0) 推荐(0)
posted @ 2019-01-29 22:06 BlueWanderer 阅读(1438) 评论(0) 推荐(0)