本文主要是介绍计算机的错误计算(七十七),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
摘要 探讨反余弦函数 acos(x) 的错误计算。
例1. 计算 acos(0.999999999999) .
若用Java中函数计算:
import java.lang.Math;
public class Acos{public static void main(String[] args) {double x = 0.999999999999;double result = Math.acos(x);System.out.println(result);}
}
则运行后的输出为 1.4141979198683931E-6 .
若用Go语言计算:
package mainimport ("fmt""math"
)func main() {x := 0.999999999999AcosValue := math.Acos(x)fmt.Printf("%v", AcosValue)
}
则运行后输出 1.414197919880067e-06 .
然而,正确值是 0.1414213562373213e-5(ISRealsoft 提供)。若定基准位数为16位,则错误率均为 12/16 = 75% .
这篇关于计算机的错误计算(七十七)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!