2017年8月30日
计算误差——ACM计算几何中的精度问题
摘要： 浮点数为何会有精度问题 占字节数数值范围十进制精度位数float4-3.4e-38~3.4e386~7double8-1.7e-308~1.7e30814~15如果内存不是很紧张或者精度要求不是很低，一般选用double。14位的精度(是有效数字位，不是小数点后的位数... 阅读全文
posted @ 2017-08-30 10:28 Bryce1010 阅读(244) 评论(0) 推荐(0)
计算误差——ACM计算几何中的精度问题
摘要： 浮点数为何会有精度问题 占字节数数值范围十进制精度位数float4-3.4e-38~3.4e386~7double8-1.7e-308~1.7e30814~15如果内存不是很紧张或者精度要求不是很低，一般选用double。14位的精度(是有效数字位，不是小数点后的位数... 阅读全文
posted @ 2017-08-30 10:28 Bryce1010 阅读(325) 评论(0) 推荐(0)