会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
懒懒同学
博客园
首页
新随笔
联系
订阅
管理
2020年12月23日
js精度丢失问题
摘要: 数值在内存是由二进制存储的,某些值在转换成二进制的时候会出现无限循环,由于位数限制,无限循环的值就会采用“四舍五入法”截取,成为一个计算机内部很接近的数字,出现了误差。例如0.1在转换成二进制时会出现无限循环。 0.1 + 0.2 //0.30000000000000004 解决办法:在操作前放大一
阅读全文
posted @ 2020-12-23 22:47 懒懒同学不懒
阅读(98)
评论(0)
推荐(0)
公告