前端计算精度丢失问题

2024-01-10 21:20

本文主要是介绍前端计算精度丢失问题,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

// 精度丢失异常数据汇总
10.3950 * 3935.00 = 期望40904.33, 异常结果40904.32
7.3950 * 3835.00 = 期望28359.83, 异常结果28359.82
11.777 * 4215 = 期望49640.06, 异常结果49640.05
12.445 * 4005 = 期望49842.23,异常结果49842.22
3721*17.0480 = 期望63435.61,异常结果63435.60
3621*5.0060 = 期望18126.73,异常结果18126.72

vue项目中直接装插件

npm install bignumber.js
import { BigNumber } from 'bignumber.js';
// +
export function add(a, b) {a = BigNumber(a);b = BigNumber(b);return a.plus(b).toNumber();   //结果需要用toNumber转为普通数字
}
// -
export function minus(a, b) {a = BigNumber(a);b = BigNumber(b);return a.minus(b).toNumber();
}
// *
export function mut(a, b) {a = BigNumber(a);b = BigNumber(b);return a.multipliedBy(b).toNumber();
}
// /
export function dev(a, b) {a = BigNumber(a);b = BigNumber(b);return a.dividedBy(b).toNumber();
}

界面中使用:

import {add,minus,mut,dev
} from '@/utils/common.js' //公共方法row.amountStr = (this.mut(Number(row.salePriceStr), Number(row.weightStr))).toFixed(2)

toFixed也有精度丢失问题,直接main.js中改写toFixed方法

Number.prototype.toFixed = function(d) {var s = this + ''if (!d) d = 0if (s.indexOf('.') === -1) s += '.'s += new Array(d + 1).join('0')if (new RegExp('^(-|\\+)?(\\d+(\\.\\d{0,' + (d + 1) + '})?)\\d*$').test(s)) {let s = '0' + RegExp.$2; var pm = RegExp.$1; var a = RegExp.$3.length; var b = trueif (a === d + 2) {a = s.match(/\d/g)if (parseInt(a[a.length - 1]) > 4) {for (var i = a.length - 2; i >= 0; i--) {a[i] = parseInt(a[i]) + 1if (a[i] === 10) {a[i] = 0b = i !== 1} else break}}s = a.join('').replace(new RegExp('(\\d+)(\\d{' + d + '})\\d$'), '$1.$2')}if (b) s = s.substr(1)return (pm + s).replace(/\.$/, '')}return this + ''
}

如果vue3中遇到精度丢失问题,可以创建一个fixed.js文件

// // js
if (!Number.prototype._toFixed) {// eslint-disable-next-line no-extend-nativeNumber.prototype._toFixed = Number.prototype.toFixed
}
// eslint-disable-next-line no-extend-native
Number.prototype.toFixed = function (d) {let s = this + ''if (!d) {d = 0}if (s.indexOf('.') === -1) {s += '.'}s += new Array(d + 1).join('0')if (new RegExp('^(-|\\+)?(\\d+(\\.\\d{0,' + (d + 1) + '})?)\\d*$').test(s)) {let s = '0' + RegExp.$2let pm = RegExp.$1let a = RegExp.$3.lengthlet b = trueif (a === d + 2) {a = s.match(/\d/g)if (parseInt(a[a.length - 1]) > 4) {for (let i = a.length - 2; i >= 0; i--) {a[i] = parseInt(a[i]) + 1if (a[i] === 10) {a[i] = 0b = i !== 1} else {break}}}s = a.join('').replace(new RegExp('(\\d+)(\\d{' + d + '})\\d$'), '$1.$2')}if (b) {s = s.substr(1)}return (pm + s).replace(/\.$/, '')}return this + ''
}

然后再main.ts文件中引入即可

import '@/utils/fixed'

方式二: 封装js方法

// 乘法
function highPrecisionMul(data1, data2) {let m = 0;const s1 = data1.toString();const s2 = data2.toString();// 获取所有参数小数位长度之和try {m += s1.split(".")[1].length;} catch (e) { e => e }try {m += s2.split(".")[1].length;} catch (e) { e => e }// 替换掉小数点转为数字相乘再除以10的次幂值return ((Number(s1.replace(".", "")) * Number(s2.replace(".", ""))) /Math.pow(10, m));
};// 加法function highPrecisionAdd(data1, data2) {let r1, r2;// 获取每个参数的小数的位数try {r1 = data1.toString().split(".")[1].length;} catch (e) {r1 = 0;}try {r2 = data2.toString().split(".")[1].length;} catch (e) {r2 = 0;}// 计算底数为10以最大小数位数为次幂的值const m = Math.pow(10, Math.max(r1, r2));// 把所有参数转为整数后相加再除以次幂的值return (data1 * m + data2 * m) / m;
};// toFixed精度问题  重写function toSuperFixed(n, d) {var s = n + "";if (!d) d = 0;if (s.indexOf(".") === -1) s += ".";s += new Array(d + 1).join("0");if (new RegExp("^(-|\\+)?(\\d+(\\.\\d{0," + (d + 1) + "})?)\\d*$").test(s)) {let s = "0" + RegExp.$2; var pm = RegExp.$1; var a = RegExp.$3.length; var b = true;if (a === d + 2) {a = s.match(/\d/g);if (parseInt(a[a.length - 1]) > 4) {for (var i = a.length - 2; i >= 0; i--) {a[i] = parseInt(a[i]) + 1;if (a[i] === 10) {a[i] = 0;b = i !== 1;} else break;}}s = a.join("").replace(new RegExp("(\\d+)(\\d{" + d + "})\\d$"), "$1.$2");}if (b) s = s.substr(1);return (pm + s).replace(/\.$/, "");}return this + "";
}

使用:

this.toSuperFixed(this.highPrecisionMul(Number(row.priceStr), Number(row.weightStr)), 2)

这篇关于前端计算精度丢失问题的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/592116

相关文章

在React中引入Tailwind CSS的完整指南

《在React中引入TailwindCSS的完整指南》在现代前端开发中,使用UI库可以显著提高开发效率,TailwindCSS是一个功能类优先的CSS框架,本文将详细介绍如何在Reac... 目录前言一、Tailwind css 简介二、创建 React 项目使用 Create React App 创建项目

vue使用docxtemplater导出word

《vue使用docxtemplater导出word》docxtemplater是一种邮件合并工具,以编程方式使用并处理条件、循环,并且可以扩展以插入任何内容,下面我们来看看如何使用docxtempl... 目录docxtemplatervue使用docxtemplater导出word安装常用语法 封装导出方

springboot循环依赖问题案例代码及解决办法

《springboot循环依赖问题案例代码及解决办法》在SpringBoot中,如果两个或多个Bean之间存在循环依赖(即BeanA依赖BeanB,而BeanB又依赖BeanA),会导致Spring的... 目录1. 什么是循环依赖?2. 循环依赖的场景案例3. 解决循环依赖的常见方法方法 1:使用 @La

SpringBoot启动报错的11个高频问题排查与解决终极指南

《SpringBoot启动报错的11个高频问题排查与解决终极指南》这篇文章主要为大家详细介绍了SpringBoot启动报错的11个高频问题的排查与解决,文中的示例代码讲解详细,感兴趣的小伙伴可以了解一... 目录1. 依赖冲突:NoSuchMethodError 的终极解法2. Bean注入失败:No qu

MySQL新增字段后Java实体未更新的潜在问题与解决方案

《MySQL新增字段后Java实体未更新的潜在问题与解决方案》在Java+MySQL的开发中,我们通常使用ORM框架来映射数据库表与Java对象,但有时候,数据库表结构变更(如新增字段)后,开发人员可... 目录引言1. 问题背景:数据库与 Java 实体不同步1.1 常见场景1.2 示例代码2. 不同操作

Vue中组件之间传值的六种方式(完整版)

《Vue中组件之间传值的六种方式(完整版)》组件是vue.js最强大的功能之一,而组件实例的作用域是相互独立的,这就意味着不同组件之间的数据无法相互引用,针对不同的使用场景,如何选择行之有效的通信方式... 目录前言方法一、props/$emit1.父组件向子组件传值2.子组件向父组件传值(通过事件形式)方

css中的 vertical-align与line-height作用详解

《css中的vertical-align与line-height作用详解》:本文主要介绍了CSS中的`vertical-align`和`line-height`属性,包括它们的作用、适用元素、属性值、常见使用场景、常见问题及解决方案,详细内容请阅读本文,希望能对你有所帮助... 目录vertical-ali

mss32.dll文件丢失怎么办? 电脑提示mss32.dll丢失的多种修复方法

《mss32.dll文件丢失怎么办?电脑提示mss32.dll丢失的多种修复方法》最近,很多电脑用户可能遇到了mss32.dll文件丢失的问题,导致一些应用程序无法正常启动,那么,如何修复这个问题呢... 在电脑常年累月的使用过程中,偶尔会遇到一些问题令人头疼。像是某个程序尝试运行时,系统突然弹出一个错误提

如何解决mysql出现Incorrect string value for column ‘表项‘ at row 1错误问题

《如何解决mysql出现Incorrectstringvalueforcolumn‘表项‘atrow1错误问题》:本文主要介绍如何解决mysql出现Incorrectstringv... 目录mysql出现Incorrect string value for column ‘表项‘ at row 1错误报错

电脑提示找不到openal32.dll文件怎么办? openal32.dll丢失完美修复方法

《电脑提示找不到openal32.dll文件怎么办?openal32.dll丢失完美修复方法》openal32.dll是一种重要的系统文件,当它丢失时,会给我们的电脑带来很大的困扰,很多人都曾经遇到... 在使用电脑过程中,我们常常会遇到一些.dll文件丢失的问题,而openal32.dll的丢失是其中比较