开发一个统计组件时候遇到的一个问题
即浮点运算精度的问题,刚刚在cnblogs首页看见有人提出的一个解决方案(请见《第一次遇到浮点运算精度不够的问题 》),想起自己也做过类似工作,于是写下这篇文字,给需要的朋友一个参考。
下面是我写的一个求和函数(之一):
-------------------------------
/// <summary>
/// 求数组和,指定精度
/// </summary>
/// <param name="dDataArray">要求和的double数组</param>
/// <param name="iPrecision">要保留的精度长度</param>
/// <returns></returns>
public double Sum(double[] dDataArray, int iPrecision)
{
if ( dDataArray == null || dDataArray.Length < 1)
return double.NaN ;
int pow = (int)Math.Pow( 10, iPrecision);
double dSum = 0;
//精确相加
foreach( double d in dDataArray)
{
dSum += d;
//精确度处理
dSum = Math.Floor( dSum * pow ) / pow;
}
return dSum;
}
-------------------------------
关键就在于Math.Floor()这个函数了,这个函数的作用是“返回小于或等于指定数字的最大整数”。
如《第》文中例子“100.85-100.5=0.35 这么一目了然的操作,计算的结果却是0.349999999999994”,作者的“解决办法是把 double 类型的值放大 10000 倍,然后转成 long 长整型,中间计算过程全部用 long 型,最后把计算结果再转回 double 型并除以 10000 得到最终运算结果”,其实我这段代码也是一个意思,只是利用.net自带的一个函数,中间呢,没有如《第》文中写的那些数据类型转换(也许这个floor函数自己内部有转换吧,呵呵,那就不是俺的事了)。
不好意思,不会写文章,大家将就着看吧。
浙公网安备 33010602011771号