本文主要是介绍C#浮点运算出错问题,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
在计算单价等活动的时候,我们经常会用到double 浮点进行运算,但是在乘除的时候经常出现精度丢失问题
decimal 关键字表示 128 位数据类型。 同浮点型相比,decimal 类型具有更高的精度和更小的范围,这使它适合于财务和货币计算
double unitprice = Convert.ToDouble(0.2) * 1.006 * 10000;int priceint = (int)Math.Ceiling(unitprice); // 0.20120000000000002//后面丢失的是精度//这样就不会丢失精度了
double result2 = (double)((decimal)0.2* (decimal)1.006);
这篇关于C#浮点运算出错问题的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!