浮点数的精度

浮点数的范围,很容易搞清楚,比如 IEEE754

float类型的存储方式

范围就是  

± 1.0000 0000 0000 0000 0000 000*2^(-126)     

± 1.1111 1111 1111 1111 1111 111*2^(127)

但是精度,有点小绕

比如比1.1111 1111 1111 1111 1111 111*2^(127)  小的数(离她最近的数)   是1.1111 1111 1111 1111 1111 110*2^(127)

所以当 指数是127的时候,精度就是0.0000 0000 0000 0000 0000 001*2^(127)

所以, 指数不一样的时候,精度是不一样的。

然后再说表示纯整数的时候, 指数正好把所有的小数点抹平,为23   所以就能表示 24位的所有整数了

 

 

posted @ 2013-03-21 21:01  mipscpu  阅读(512)  评论(0编辑  收藏  举报