计算机的错误计算（七十）

本文主要是介绍计算机的错误计算（七十），希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

摘要  讨论大数的正割函数 sec(x)的错误计算。

例1.  已知   在 Maple 中计算 

        在 Maple中输入：

restart; sec(30^54.8);

则输出：

-5.214386310

若输入：

Digits := 16;evalf[16](sec(30^54.8));

则输出：

1.324455078865824

若设Digits为其它数，比如 100，则结果不变。

       然而，正确结果为 1.249221545349129（ISRealsoft 提供）。Maple 的第1个输出不包含正确数字，后面的输出只有 1位正确数字。

       若在 Maple中输入：

Digits := 100;evalf[100](sec(30^54.8));

则前16位数字是正确的（事实上，有20位正确数字）：

1.249221545349129283428653198723255035362893385317515540567236290121081852507515701551207634422091985

但是，后面红颜色的 80位数字是错误数字。

例2.  在Excel 中计算 sec(123456.789) .

       直接贴图：

        然而，正确结果是 0.1935264148028352e2（ISRealsoft 提供）。这样，Excel 的输出中有 7位错误数字，错误率为 7/16 = 43.75% .

这篇关于计算机的错误计算（七十）的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！

---