摘要:
一、浮点计算中发生精度丢失 大概很多有编程经验的朋友都对这个问题不陌生了:无论你使用的是什么编程语言,在使用浮点型数据进行精确计算时,你都有可能遇到计算结果出错的情况。来看下面的例子。// 这是一个利用浮点型数据进行精确计算时结果出错的例子,使用Java编写,有所省略。double a = (1.2... 阅读全文
posted @ 2015-03-26 10:43
Just_Do
阅读(432)
评论(0)
推荐(0)
摘要:
一、基本类型介绍 float与double的范围和精度 范围 float: 1bit(符号位) 8bit(指数位) 23bit(尾数为) double: 1bit(符号位) 11bit(指数位) 52bit(尾数为) float的指数范围 -127~128,而double的指数范围-1023~102 阅读全文
posted @ 2015-03-26 10:37
Just_Do
阅读(798)
评论(0)
推荐(0)


浙公网安备 33010602011771号