04 2022 档案

JavaScript计算精度问题
摘要:一、原因 js的Number在内存中存储使用的是一种64位双精度浮点数存储方法。其中,1位用来表示符号,0为正,1为负;11位用来表示指数;52位用来表示尾数。他的表示格式为:s * m * ( 2 ^ e ) (s为符号位,m为尾数,e为指数) 将十进制的小数转换为二进制的小数,采用“乘二取整法” 阅读全文
posted @ 2022-04-19 10:43 fogmisty 阅读(1118) 评论(1) 推荐(0)