02 2020 档案

0.29*100的问题
摘要:写算法过程中,需要取0.29的小数位数字: 用: int n = (int)(0.29*100) % 10; 但是算出来的n是8,很奇怪 最后通过: int n = (int)((0.29*1000)/10) % 10; 才得到正确结果; 上网搜了一下问题,发现和计算机存储数据原理有关,等后面有时间 阅读全文

posted @ 2020-02-05 23:23 lingzshen 阅读(442) 评论(0) 推荐(0)