2023年8月4日
数字迷惑行为
摘要： 最近做处理金额的业务比较多，所以最近遇到两个关于数字的坑，记下来以便以后不犯这种错误 1.0.57*100=？ 问题代码： 相信大多数人阅读上面这段代码都认为结果是57，但是运行结果却是56 问题原因： 计算机存储数字采用的是二进制，0.57在计算机中存储的二进制再转化成十进制的值是0.56999… 阅读全文
posted @ 2023-08-04 23:18 dianx 阅读(28) 评论(0) 推荐(0)