本文主要是介绍c# vb 程序中怪异的double类型数据数学运算结果,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
在c#中运行如下程序:
static void Main(string[] args)
{
double a = 218.89;
double b = 118.89;
double c = 100.0;
double x = a - b; //调试显示实际x=99.999999999999986,不应该是100吗???
Console.WriteLine(x.ToString()); //显示输出:100.00,输出为什么又成了100???
if (x == 100) //比较又相等????
{
Console.WriteLine("=100");
}
x = x - c; //调试显示实际x=-0.000000000000014210854715202004
Console.WriteLine(x.ToString()); //输出:-1.4210854715202E-14 ,为什么不是0呢????
Console.Read();
}
运算得出的结果与数学理论预期不一致,这是为什么呢?
虽然说double类型是浮点表示不够精确,但对于只有2位小数的运算式居然也有这样的偏差,实在太过于怪异了。
在实际应用中可能就会因为一点点误差导致程序运行的错误结果,这是什么原因呢?
上述程序改成同样vb6.0程序,也会出现相同的怪异的结果。
但你如果把上述a,b,c改成其他值,其结果可能与数学理论结果是一致的。
期待高手解答!
这篇关于c# vb 程序中怪异的double类型数据数学运算结果的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!