【温故而知新】JavaScript数字精度丢失问题

2024-01-11 16:20

本文主要是介绍【温故而知新】JavaScript数字精度丢失问题,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一、概念

在JavaScript中,由于基于IEEE 754标准的浮点数表示方法,导致在进行数字运算时可能会发生精度丢失的情况。

由于计算机内部使用二进制来表示浮点数,而无法准确地用有限的二进制位数表示所有的实数。因此,浮点数在存储和计算时会存在舍入误差。

比如,当进行小数运算时可能会出现精度丢失的情况。例如,0.1 + 0.2 的结果在JavaScript中不是期望的0.3,而是一个近似值0.30000000000000004。这是因为0.1和0.2在二进制表示中无法被精确表示,导致在计算时发生了舍入误差。

此外,JavaScript中整数的运算也可能会出现精度丢失的情况。当进行超出JavaScript能够表示的数字范围的计算时,结果可能会失去精度。例如,Math.pow(2, 53) + 1 的结果在JavaScript中是相同的值,而不是期望的2的53次方加1。这是因为JavaScript中的数字表示范围是有限的,超出这个范围的数字会被截断或近似表示。

为了避免精度丢失的问题,可以使用一些解决方案,如使用整数代替浮点数进行计算,或者使用特定的数学库来处理精确计算。

二、常见问题

在JavaScript中,关于数字精度丢失的一些常见问题包括:

  1. 小数运算精度丢失:由于浮点数在计算机中的二进制表示存在舍入误差,进行小数运算时可能会导致结果的精度丢失。例如,0.1 + 0.2 的结果不是期望的0.3,而是一个近似值0.30000000000000004。

  2. 整数运算超出范围:JavaScript中使用64位双精度浮点数表示数字,整数的表示范围是有限的。当进行超出该范围的整数运算时,结果可能会失去精度。例如,Math.pow(2, 53) + 1 的结果不是期望的2的53次方加1,而是相同的值。

  3. 数字转换时的精度丢失:在将字符串转换为数字或将数字转换为字符串时,可能会出现精度丢失的情况。例如,将字符串"0.1"转换为数字时,可能会得到一个近似值0.1而不是精确的0.1。

  4. 浮点数比较精度问题:由于浮点数在计算机中的二进制表示存在舍入误差,直接进行浮点数的比较可能会导致意外的结果。例如,0.1 + 0.2 == 0.3 的结果可能是false,因为实际计算结果存在微小的舍入误差。

为了避免这些问题,可以使用一些技巧和库来处理精度丢失。例如,使用toFixed()方法来指定小数点后的精度,使用整数进行计算,或使用专门的数学库如Decimal.js来处理精确计算。

三、案例

下面是一些常见的 JavaScript 数字精度丢失案例代码以及解决方法:

  1. 小数运算精度丢失:
// 精度丢失
console.log(0.1 + 0.2); // 输出:0.30000000000000004// 解决方法:使用toFixed()方法指定小数点后的位数
console.log((0.1 + 0.2).toFixed(1)); // 输出:0.3
  1. 整数运算超出范围:
// 精度丢失
console.log(Math.pow(2, 53) + 1); // 输出:9007199254740992// 解决方法:使用 BigInt 类型来处理超出范围的整数运算
console.log(BigInt(Math.pow(2, 53)) + BigInt(1)); // 输出:9007199254740993n
  1. 数字转换时的精度丢失:
// 字符串转换为数字时的精度丢失
console.log(Number("0.1")); // 输出:0.1// 解决方法:使用 parseFloat() 或 Number.parseFloat() 方法来进行精确的浮点数转换
console.log(parseFloat("0.1")); // 输出:0.1
  1. 浮点数比较精度问题:
// 浮点数比较精度问题
console.log(0.1 + 0.2 == 0.3); // 输出:false// 解决方法:使用一个阈值进行比较,判断两个浮点数是否接近
const threshold = 0.0001;
console.log(Math.abs(0.1 + 0.2 - 0.3) < threshold); // 输出:true

需要根据具体情况选择合适的解决方案来处理数字精度丢失问题,并确保得到预期的结果。

四、后记

JavaScript是一种广泛应用于网页开发的脚本语言,它可以用来为网页添加交互性和动态特效。JavaScript可以在网页中直接嵌入,也可以作为外部文件引用。

以下是JavaScript的一些重要特点和用法:

  1. 脚本语言:JavaScript是一种解释型脚本语言,不需要编译,可以直接在浏览器中执行。
  2. 弱类型语言:JavaScript是一种弱类型语言,变量的数据类型可以随时改变,不需要声明变量的类型。
  3. 事件驱动:JavaScript可以通过监听用户的操作或者其他事件触发特定的代码执行,实现网页的交互性。
  4. DOM操作:JavaScript可以通过文档对象模型(DOM)来操作网页的HTML元素,可以动态地添加、修改和删除元素。
  5. 表单验证:JavaScript可以通过表单验证来确保用户输入的数据符合要求,提供更好的用户体验。
  6. AJAX:JavaScript可以通过AJAX技术实现网页的异步加载,可以在不刷新整个页面的情况下更新部分内容。
  7. JSON:JavaScript Object Notation(JSON)是一种轻量级的数据交换格式,JavaScript可以很方便地解析和生成JSON数据。
  8. 库和框架:JavaScript拥有丰富的库和框架,如jQuery、React、Angular等,可以简化开发过程并提供更强大的功能。

JavaScript是一种强大且灵活的语言,可以用来创建复杂的交互式网页,并且可以与HTML和CSS无缝配合,实现出色的用户体验。

五、热门文章

【温故而知新】JavaScript的继承方式有那些
【温故而知新】JavaScript中内存泄露有那几种
温故而知新】JavaScript函数式编程
【温故而知新】JavaScript的防抖与节流
【温故而知新】JavaScript事件循环
【温故而知新】JavaScript的Document对象
【温故而知新】JavaScript的BOM之Screen/Location/History对象
【温故而知新】JavaScript的BOM之Navigator对象
【温故而知新】JavaScript的BOM之Window对象
【温故而知新】JavaScript数据结构详解
【温故而知新】JavaScript数据类型
RESTful API,如何构建 web 应用程序
jQuery实现轮播图代码
vue实现文本上下循环滚动
Vue运用之input本地上传文件,实现传参file:(binary)
js判断各种浏览器
uni-app详解、开发步骤、案例代码

这篇关于【温故而知新】JavaScript数字精度丢失问题的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/594956

相关文章

Java实现Excel与HTML互转

《Java实现Excel与HTML互转》Excel是一种电子表格格式,而HTM则是一种用于创建网页的标记语言,虽然两者在用途上存在差异,但有时我们需要将数据从一种格式转换为另一种格式,下面我们就来看看... Excel是一种电子表格格式,广泛用于数据处理和分析,而HTM则是一种用于创建网页的标记语言。虽然两

java图像识别工具类(ImageRecognitionUtils)使用实例详解

《java图像识别工具类(ImageRecognitionUtils)使用实例详解》:本文主要介绍如何在Java中使用OpenCV进行图像识别,包括图像加载、预处理、分类、人脸检测和特征提取等步骤... 目录前言1. 图像识别的背景与作用2. 设计目标3. 项目依赖4. 设计与实现 ImageRecogni

Java中Springboot集成Kafka实现消息发送和接收功能

《Java中Springboot集成Kafka实现消息发送和接收功能》Kafka是一个高吞吐量的分布式发布-订阅消息系统,主要用于处理大规模数据流,它由生产者、消费者、主题、分区和代理等组件构成,Ka... 目录一、Kafka 简介二、Kafka 功能三、POM依赖四、配置文件五、生产者六、消费者一、Kaf

Java访问修饰符public、private、protected及默认访问权限详解

《Java访问修饰符public、private、protected及默认访问权限详解》:本文主要介绍Java访问修饰符public、private、protected及默认访问权限的相关资料,每... 目录前言1. public 访问修饰符特点:示例:适用场景:2. private 访问修饰符特点:示例:

详解Java如何向http/https接口发出请求

《详解Java如何向http/https接口发出请求》这篇文章主要为大家详细介绍了Java如何实现向http/https接口发出请求,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 用Java发送web请求所用到的包都在java.net下,在具体使用时可以用如下代码,你可以把它封装成一

关于@MapperScan和@ComponentScan的使用问题

《关于@MapperScan和@ComponentScan的使用问题》文章介绍了在使用`@MapperScan`和`@ComponentScan`时可能会遇到的包扫描冲突问题,并提供了解决方法,同时,... 目录@MapperScan和@ComponentScan的使用问题报错如下原因解决办法课外拓展总结@

MybatisGenerator文件生成不出对应文件的问题

《MybatisGenerator文件生成不出对应文件的问题》本文介绍了使用MybatisGenerator生成文件时遇到的问题及解决方法,主要步骤包括检查目标表是否存在、是否能连接到数据库、配置生成... 目录MyBATisGenerator 文件生成不出对应文件先在项目结构里引入“targetProje

C#使用HttpClient进行Post请求出现超时问题的解决及优化

《C#使用HttpClient进行Post请求出现超时问题的解决及优化》最近我的控制台程序发现有时候总是出现请求超时等问题,通常好几分钟最多只有3-4个请求,在使用apipost发现并发10个5分钟也... 目录优化结论单例HttpClient连接池耗尽和并发并发异步最终优化后优化结论我直接上优化结论吧,

SpringBoot使用Apache Tika检测敏感信息

《SpringBoot使用ApacheTika检测敏感信息》ApacheTika是一个功能强大的内容分析工具,它能够从多种文件格式中提取文本、元数据以及其他结构化信息,下面我们来看看如何使用Ap... 目录Tika 主要特性1. 多格式支持2. 自动文件类型检测3. 文本和元数据提取4. 支持 OCR(光学

Java内存泄漏问题的排查、优化与最佳实践

《Java内存泄漏问题的排查、优化与最佳实践》在Java开发中,内存泄漏是一个常见且令人头疼的问题,内存泄漏指的是程序在运行过程中,已经不再使用的对象没有被及时释放,从而导致内存占用不断增加,最终... 目录引言1. 什么是内存泄漏?常见的内存泄漏情况2. 如何排查 Java 中的内存泄漏?2.1 使用 J