pow()函数结果强制转化为int造成误差的分析
摘要:开发环境:codeblocks,编译器gcc 在计算102时调用pow(10, 2),再强制类型转换为int类型后输出: 得到的结果却是:99 这是因为 double pow(double x, double y) ,返回值是采用数值逼近的方法得到的double类型值。例如返回值为99.999999
阅读全文
posted @ 2019-03-13 11:38
posted @ 2019-03-13 11:38
posted @ 2019-03-13 11:01
posted @ 2019-03-07 17:14
posted @ 2019-02-19 11:11
posted @ 2018-11-13 16:56