本文主要是介绍计算机的错误计算(七十二),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
摘要 讨论大数的余割函数 csc(x)的错误计算。
例1. 在 Excel 中计算 csc(1234567.89) .
直接贴图:
然而,正确值是 -0.2023325675399672e1(ISRealsoft 提供)。 Excel 的输出中有 6位错误数字。
例2. 在 Maple中计算 csc(32^58.3) .
若直接输入:
csc(32^58.3);
则输出:
3.964360275
若输入:
Digits := 16;evalf[16](csc(32^58.3));
则输出:
1.362324539698100
事实上,正确值是 -0.1276417621694295e1(ISRealsoft 提供)。Maple 两次给出的结果均为错误结果。
当然,若改上述两个16为大一点的数,比如 100,那么应该会得到一些正确数字。
这篇关于计算机的错误计算(七十二)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!