会员
周边
新闻
博问
闪存
众包
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
fogmisty
欢迎指教,共同提高~
导航
博客园
首页
新随笔
联系
订阅
管理
公告
04 2022 档案
JavaScript计算精度问题
摘要:一、原因 js的Number在内存中存储使用的是一种64位双精度浮点数存储方法。其中,1位用来表示符号,0为正,1为负;11位用来表示指数;52位用来表示尾数。他的表示格式为:s * m * ( 2 ^ e ) (s为符号位,m为尾数,e为指数) 将十进制的小数转换为二进制的小数,采用“乘二取整法”
阅读全文
posted @
2022-04-19 10:43
fogmisty
阅读(1118)
评论(1)
推荐(0)