代码改变世界

关于浮点数计算时的精度问题

2009-11-24 14:21  Jeffrey Zhao  阅读(13493)  评论(66编辑  收藏  举报

那个有问题的缩略图生成的方法发布之后,短短半天就有很多朋友响应,其中指出了不少方法中的不少问题,有些也是我没有意识到的。果然集体的智慧是无穷的,一段代码在许多人的眼皮底下经过,想留有bug也不容易。不过,我在这里只能谈一下我写那篇文章的本意了,我认为那篇文章中最主要的问题是,在计算图片尺寸时没有处理好浮点数计算的精度问题。

为了凸现主要逻辑,我把之前那个方法中计算图片尺寸的代码单独抽取成一个方法:

public static void GetThumbnailSize(
    int originalWidth, int originalHeight,
    int desiredWidth, int desiredHeight,
    out int newWidth, out int newHeight)
{
    // If the image is smaller than a thumbnail just return it
    if (originalWidth <= desiredWidth && originalHeight <= desiredHeight)
    {
        newWidth = originalWidth;
        newHeight = originalHeight;
        return;
    }

    // scale down the smaller dimension
    if ((decimal)desiredWidth / originalWidth < (decimal)desiredHeight / originalHeight)
    {
        decimal desiredRatio = (decimal)desiredWidth / originalWidth;
        newWidth = desiredWidth;
        newHeight = (int)(originalHeight * desiredRatio);
    }
    else
    {
        decimal desiredRatio = (decimal)desiredHeight / originalHeight;
        newHeight = desiredHeight;
        newWidth = (int)(originalWidth * desiredRatio);
    }
}

我们通过简单的代码试验一下:

int newWidth, newHeight;

GetThumbnailSize(200, 200, 100, 100, out newWidth, out newHeight);
Console.WriteLine("{0}, {1}", newWidth, newHeight);

GetThumbnailSize(300, 300, 100, 100, out newWidth, out newHeight);
Console.WriteLine("{0}, {1}", newWidth, newHeight);

得到的结果是:

100, 100
99, 100

第一个结果自然没有问题,但是在第二个结果中为什么是99而不是100?为此,我们再通过以下的代码来观察一番:

ratio: 0.3333333333333333333333333333
new value: 99.99999999999999999999999999
to int: 99

可见,虽然使用了decimal,精度已经非常高的,但是在经过了一除一乘,它还是没有恢复到最精确值。虽然一直说要注意浮点数计算时的精度问题,但是对于这个问题许多朋友往往只是理解到“不能直接两个浮点数相等”,包括我自己的第一印象。但事实上,从上面的结果也可以看出,把一个浮点数直接转换成整形,它便是使用了“去尾”而不是“四舍五入”的方法。因此,虽然newValue的值无比接近100,但是在强制去尾后它还是变成了99。

如果要在原来的方法中改变这个问题,最简单的方法可能是把最后的强制转型替换成Math.Round方法。Math.Round方法使用四舍五入,应该能够解决问题。不过如果只是这样的话收获不大,我们再仔细想想,应该如何做到尽可能的精确。

两个浮点数相除可能会丧失精度,但如果是乘法操作,在一般情况下精度是不会丢失的,除非发生了溢出的话,或者小数位数太多。因此在计算过程中为了保持精度,我们应该尽可能的做乘法,而不是作除法。例如以下的判断:

if ((decimal)desiredWidth / originalWidth < (decimal)desiredHeight / originalHeight)

其实最好改写成“等价”的乘法操作(假设没有溢出):

if (desiredWidth * originalHeight < desiredHeight * originalWidth)

同理,如果可以的话,在作计算的时候,也最好先乘再除:

if (desiredWidth * originalHeight < desiredHeight * originalWidth)
{
    newWidth = desiredWidth;
    newHeight = (int)Math.Round((decimal)originalHeight * desiredWidth / originalWidth);
}
else
{
    newHeight = desiredHeight;
    newWidth = (int)Math.Round((decimal)originalWidth * desiredHeight / originalHeight);
}

这么做,我们就避免了使用scaleRatio这个已经丧失部分精度的值来参与计算,这样1 * 3 / 3便可以等于1,而不像1 / 3 * 3等于0.99…。因此,最终我们CreateThumbnail的代码便修改为:

/// <summary>
/// Creates a thumbnail from an existing image. Sets the biggest dimension of the
/// thumbnail to either desiredWidth or Height and scales the other dimension down
/// to preserve the aspect ratio
/// </summary>
/// <param name="imageStream">stream to create thumbnail for</param>
/// <param name="desiredWidth">maximum desired width of thumbnail</param>
/// <param name="desiredHeight">maximum desired height of thumbnail</param>
/// <returns>Bitmap thumbnail</returns>
public Bitmap CreateThumbnail(Bitmap originalBmp, int desiredWidth, int desiredHeight)
{
    // If the image is smaller than a thumbnail just return it
    if (originalBmp.Width <= desiredWidth && originalBmp.Height <= desiredHeight)
    {
        return originalBmp;
    }

    int newWidth, newHeight;

    // scale down the smaller dimension
    if (desiredWidth * originalBmp.Height < desiredHeight * originalBmp.Width)
    {
        newWidth = desiredWidth;
        newHeight = (int)Math.Round((decimal)originalBmp.Height * desiredWidth / originalBmp.Width);
    }
    else
    {
        newHeight = desiredHeight;
        newWidth = (int)Math.Round((decimal)originalBmp.Width * desiredHeight / originalBmp.Height);
    }

    // This code creates cleaner (though bigger) thumbnails and properly
    // and handles GIF files better by generating a white background for
    // transparent images (as opposed to black)
    // This is preferred to calling Bitmap.GetThumbnailImage()
    Bitmap bmpOut = new Bitmap(newWidth, newHeight);
    
    using (Graphics graphics = Graphics.FromImage(bmpOut))
    {
        graphics.InterpolationMode = InterpolationMode.HighQualityBicubic;
        graphics.FillRectangle(Brushes.White, 0, 0, newWidth, newHeight);
        graphics.DrawImage(originalBmp, 0, 0, newWidth, newHeight);
    }

    return bmpOut;
}

当然,在前文中很多朋友指出的其他一些问题也很有道理,例如:

  • 没有做参数校验。
  • 直接返回源图片的做法让方法的含义不同。
  • 经过计算后newWidth和newHeight可能为0。

例如还有朋友提出对GIF的处理不很妥当等等——如果您有其他想法的话,也可以继续讨论。或者,你也来分享一下代码或工作中发现的问题?