02 2022 档案

浮点数计算不精确问题
摘要：用浮点数计算发现一个现象 出现这样的原因的理由是 因为不论是float 还是double都是浮点数，而计算机是二进制的，浮点数会失去一定的精确度。 注:根本原因是:十进制值通常没有完全相同的二进制表示形式;十进制数的二进制表示形式可能不精确。只能无限接近于那个值.(引用自csdn作者:这辈子_安静的 阅读全文
posted @ 2022-02-24 22:42 faccecat 阅读(288) 评论(0) 推荐(0)