• 博客园logo
  • 会员
  • 众包
  • 新闻
  • 博问
  • 闪存
  • 赞助商
  • HarmonyOS
  • Chat2DB
    • 搜索
      所有博客
    • 搜索
      当前博客
  • 写随笔 我的博客 短消息 简洁模式
    用户头像
    我的博客 我的园子 账号设置 会员中心 简洁模式 ... 退出登录
    注册 登录
社会优先于个人
博客园    首页    新随笔    联系   管理    订阅  订阅
js 数字精度丢失问题

经典面试题

  • 0.1+0.2!=0.3

Number

  • 在js中,数值类型就是number
  • 采用的是IEEE754规范中的64位双精度浮点数编码
  • 存储结构优点是归一化处理整数和小数,节省储存空间
  • 整数很容易转换成二进制,但还是有大小的限制,2**53
  • 小数的小数点位置不是固定的,所以使用二进制的科学计数法

小数的存储方式

  • 计算机存储小数,会先将十进制转换为二进制的科学计数法
  • 然后,计算机按照自己的规则存储二进制的科学计数法
  • 因为存储有位数限制,并且有些转换为二进制时会陷入无限循环,会造成二进制的舍入操作,那自然就会有精度问题了

大数字解决方案

  • 使用bigInt这种数据类型
  • 使用字符串这种数据类型
  • 使用第三方库,比如 bignumber

小数计算精度解决方案

  • 使用toFixed,保留小数位数,返回的是字符串。需要用parseFloat转为数值类型。但是toFixed对于有关5结尾的小数,是有问题的。所以要进行toFixed修复。
  • 先放大再缩小的方式。先乘以10的倍数,转为整数,计算完成后,再除以10的倍数,转为小数。但要注意,整数不能超过js的数值范围。
  • 使用第三方库 bignumber

参考文献
https://zhuanlan.zhihu.com/p/100353781
https://blog.csdn.net/liubangbo/article/details/114695689

posted on 2022-04-23 12:53  社会优先于个人  阅读(1067)  评论(0)    收藏  举报
刷新页面返回顶部
博客园  ©  2004-2025
浙公网安备 33010602011771号 浙ICP备2021040463号-3