关于float和double类型能表示的数据范围和精度分析
摘要:
来自教材《计算机组成原理》p16 float:6--7位 double:15--16位 意思就是double类型的数据,你确实能表达出很大的数字,但是其只有15位是精确的。 1、计算机中,因为需要计算电子的质量9*10^(-28)g和太阳的质量2*10^(33)g这样的大数据,需要引入一种新的方式来 阅读全文
posted @ 2017-04-21 20:16 stupid_one 阅读(1320) 评论(0) 推荐(1)
浙公网安备 33010602011771号