Posted on 2005-12-13 15:51
被遗弃的小指 阅读(2200)
评论(17) 编辑 收藏 网摘 所属分类:
.NET技术
今天看到群里面有人在问：
double tempf = 20 / 230;
tempf = ??
有人回答： 0.086956521739130434782608695652174 这显然是用计算器算出来的。
但是在.NET中，结果是0.0
但是为什么呢？其实一点儿不奇怪，在.NET中，对整数除法定义如下：
- 整数除法：
int operator /(int x, int y);
uint operator /(uint x, uint y);
long operator /(long x, long y);
ulong operator /(ulong x, ulong y);
如果右操作数的值为零，则引发 System.DivideByZeroException。
除法将结果舍入到零，并且结果的绝对值是小于两个操作数的商的绝对值的最大可能整数。当两个操作数符号相同时，结果为零或正；当两个操作数符号相反时，结果为零或负。
如果左操作数为最小可表示 int 或 long 值，右操作数为 -1，则发生溢出。无论操作是在 checked 还是在 unchecked 上下文中发生，此时总是引发 System.OverflowException。
所以，20/230得到的结果应该是0，0赋给一个double型的值，就变成了0.0了。
呵呵，其实我们公司的面试题里面就有一道题是这样子的：
double expectedValue = 1/2;
if ( expectedValue > 0 )
{
expectedValue = expectedValue + 0.5;
}
Console.WriteLine(expectedValue);
问最终输出什么，相信大家经过我上面的解释应该可以得出正确的答案了。