2021年9月18日

浮点数的存储方式

摘要: 关于小数在计算机内部存储造成精度误差 二进制在进行整型存储时非常精确,但是对于小数 比如0.7325 2-1=0.5 2-2=0.2... 阅读全文

posted @ 2021-09-18 15:51 不依法度 阅读(352) 评论(0) 推荐(0)

导航