摘要: 在工作中经常需要进行数字运算,当然也会遇到浮点型数字的运算,但是运算结果却并不是想要。 这种小孩子都会做的简单运算,强大的计算居然算算错?原来,计算机的运算都需要转成二制运算,而二进制和实现位数限制有些数无法有限表示。 比如:以下是十进制小数对应的二进制表示 计算机里每种数据类型的存储是一个有限宽度 阅读全文
posted @ 2019-07-27 15:42 沐浴点阳光 阅读(2682) 评论(0) 推荐(1) 编辑
摘要: 小学的时候学数学就知道有一种叫四舍五入的计算方式,就是对于小数位数的取舍,逢五进一,比如1.225 取两位小数后就是1.23。在前端开发中自己也少不了这样的计算,js也提供了相关的方法--toFixed(n) , 乍一看,还是非常方便的,既然有现成的那就顺序成章,‘肆无忌惮’用了,可是,用着用着就会 阅读全文
posted @ 2019-07-27 12:42 沐浴点阳光 阅读(1731) 评论(0) 推荐(0) 编辑