0.29*100的问题

写算法过程中,需要取0.29的小数位数字:

用:

int n = (int)(0.29*100) % 10;

但是算出来的n是8,很奇怪

最后通过:

int n = (int)((0.29*1000)/10) % 10;

才得到正确结果;

上网搜了一下问题,发现和计算机存储数据原理有关,等后面有时间研究一下;

posted on 2020-02-05 23:23  lingzshen  阅读(366)  评论(0编辑  收藏  举报