本文主要是介绍计算机的错误计算(七十一),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
摘要 计算机的错误计算(七十)探讨了大数的正割函数的错误计算。本节讨论另外一类数值: 附近数 的正割函数的计算精度问题。
例1. 已知 计算
若用 在 Python下编程计算,则有
若在 Excel 中计算,则有:
事实上,16位有效数字的正确结果是 -0.2608541928526347e8(ISRealsoft 提供)。两者的错误数字占比均为 10/16 = 62.5% .
这篇关于计算机的错误计算(七十一)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!