首页
Python
Java
前端
数据库
Linux
Chatgpt专题
开发者工具箱
错误计算专题
计算机的错误计算(七十九)
摘要 讨论 acosPi(x) = acos(x)/π 的错误计算。 由计算机的错误计算(七十八)知,IEEE 754-2019中也含有函数 acosPi(x) = acos(x)/π . 因此,本节探讨该函数的计算精度问题。 例1. 计算 acosPi(0.9999999999) = acos(0.9999999999)/π . 类似于(七十八)中的 a
阅读更多...
计算机的错误计算(七十七)
摘要 探讨反余弦函数 acos(x) 的错误计算。 例1. 计算 acos(0.999999999999) . 若用Java中函数计算: import java.lang.Math;public class Acos{public static void main(String[] args) {double x = 0.999999999999;double resu
阅读更多...
计算机的错误计算(七十三)
摘要 计算机的错误计算(七十二)探讨了大数的余割函数的错误计算 。本节讨论另外一类数值: 附近数 的余割函数的计算精度问题。 例1. 已知 计算 csc(x) . 若在 Excel 中计算,则有 若用Java 编程实现 , 即有下列代码: import java.lang.Math;public class Csc{public static void
阅读更多...
计算机的错误计算(七十二)
摘要 讨论大数的余割函数 csc(x)的错误计算。 例1. 在 Excel 中计算 csc(1234567.89) . 直接贴图: 然而,正确值是 -0.2023325675399672e1(ISRealsoft 提供)。 Excel 的输出中有 6位错误数字。 例2. 在 Maple中计算 csc(32^58.3) . 若直接输入: csc(32
阅读更多...
计算机的错误计算(七十一)
摘要 计算机的错误计算(七十)探讨了大数的正割函数的错误计算。本节讨论另外一类数值: 附近数 的正割函数的计算精度问题。 例1. 已知 计算 若用 在 Python下编程计算,则有 若在 Excel 中计算,则有: 事实上,16位有效数字的正确结果是 -0.2608541928526347e8(ISRealsoft 提供)。两者的错误数字占
阅读更多...
计算机的错误计算(七十)
摘要 讨论大数的正割函数 sec(x)的错误计算。 例1. 已知 在 Maple 中计算 在 Maple中输入: restart; sec(30^54.8); 则输出: -5.214386310 若输入: Digits := 16;evalf[16](sec(30^54.8)); 则输出: 1.324455078865824 若设Digits为其它数,
阅读更多...