double类型精度问题
用double 数据类型进行计算,必须注意精度问题。 以例示之
例一:
1 public static void Main()
2 {
3 double d = 198d-188.1d;
4 Console.WriteLine(d);
5 }
2 {
3 double d = 198d-188.1d;
4 Console.WriteLine(d);
5 }
输出结果: 9.90000000000001
例二:
1 public static void Main()
2 {
3 double d = 198.1d-188d;
4 Console.WriteLine(d);
5 }
2 {
3 double d = 198.1d-188d;
4 Console.WriteLine(d);
5 }
输出结果:10.1
例三:
1 public static void RunSnippet()
2{
3 double d =198.2d-188.1d;
4 Console.WriteLine(d);
5}
输出结果:10.1
例四:
1 public static void RunSnippet()
2 {
3 double d =198.2d-188.3d;
4 Console.WriteLine(d);
5 }
输出结果:9.89999999999998
例五:
1 public static void RunSnippet()
2 {
3 double d =198.2d-180.3d;
4 Console.WriteLine(d);
5 }
2 {
3 double d =198.2d-180.3d;
4 Console.WriteLine(d);
5 }
输出结果:17.9

浙公网安备 33010602011771号