会员
周边
新闻
博问
闪存
众包
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
Pavetr的博客
-- 乌云后面依然是灿烂的晴天。
博客园
首页
新随笔
联系
订阅
管理
2021年9月16日
关于精度丢失问题
摘要: 在做进销存时,遇到精度丢失的问题,就记一下 在JavaScript里,如果你认为0.1+0.2会等于0.3,你就错了,答案是0.30000000000000004 计算机的二进制实现和位数限制有些数无法有限表示 就像一些无理数不能有限表示,如 圆周率 3.1415926... 此时只能模仿十进制进行
阅读全文
posted @ 2021-09-16 14:35 Pavetr
阅读(469)
评论(0)
推荐(0)
公告