2019年6月20日
float类型数据精度问题：12.0f-11.9f=0.10000038，"减不尽"为什么？
摘要： 现在我们就详细剖析一下浮点型运算为什么会造成精度丢失？ 1、小数的二进制表示问题 首先我们要搞清楚下面两个问题： (1) 十进制整数如何转化为二进制数 算法很简单。举个例子，11表示成二进制数： 11/2=5 余 1 5/2=2 余 1 2/2=1 余 0 1/2=0 余 1 0结束 11二进制表示 阅读全文
posted @ 2019-06-20 10:03 一只艾米果 阅读(830) 评论(0) 推荐(0)