会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
yilin521
博客园
首页
新随笔
联系
订阅
管理
2021年12月20日
浮点数的精度误差?
摘要: 首先可以这么说就,这是所有语言的通病。 各位可以看看包装类语言和其他语言的精度区别 这边例举java与C的例子: 先放java的 然后这个是C的 由以上可以看出,明显来说包装类的这一方面做的会比较好。 其实低层来说的话,是因为高精度类型转换为二进制的浮点数可能会是无限循环小数。但由于浮点数精度有限被
阅读全文
posted @ 2021-12-20 17:13 忆林pp
阅读(35)
评论(0)
推荐(0)
公告