一、计算精度现象举例
举例1、加法
举例2、减法
举例3、乘法
举例3、除法
二、JS为什么会有计算精度的问题
JavaScript 内部只有一种数字类型Number,也就是说,JavaScript 语言的底层根本没有整数,所有数字都是以IEEE-754标准格式64位浮点数形式储存,1与1.0是相同的。因为有些小数以二进制表示位数是无穷的。JavaScript会把超出53位之后的二进制舍弃,所以涉及小数的比较和运算要特别小心。
IEEE二进制浮点数算术标准(IEEE 754)是20世纪80年代以来最广泛使用的浮点数运算标准,为许多CPU与浮点运算器所采用。这个标准定义了表示浮点数的格式(包括负零-0)与反常值(denormal number)),一些特殊数值(无穷(Inf)与非数值(NaN)),以及这些数值的“浮点数运算符”;它也指明了四种数值舍入规则和五种例外状况(包括例外发生的时机与处理方式)。
三、解决方法
项目技术栈vue3+vite+ts
3.1、方法一,同时扩大倍数再除以相同的倍数
(x * 10 ^ n + y * 10 ^ n)/ 10 ^ n
0.1 +0.2
// 0.30000000000000004
(0.1 *10 + 0.2 *10) / 10
// 0.3
3.2、方法二,toFixed保留小数位数,依然存在精度问题
3.3、方法三,mathjs - npm
pnpm add mathjs
Weekly Download 580197 (20230324)
方法 | 运算 | 使用 | 运输结果 |
add |
加法 | add(1, 2) |
3 |
subtract |
减法 | subtract(2, 1) |
1 |
multiply |
乘法 | multiply(2, 2) |
4 |
divide |
除法 | divide(4, 2) |
2 |
round |
四舍五入 | round(4.01) |
4 |
bignumber |
转换为bigNumber类型。对于具有任意精度的计算,math.js支持BigNumber数据类型,bignumber返回一个Decimal类,精度依然难以保证 | bignumber(4.01) |
|
evaluate |
直接运算表达式 |
evaluate('(4.01 + 3) / 2') |
3.505 |
sqrt |
平方根计算 |
sqrt(4) |
2 |
pow |
x 的 y 次幂值 | pow(3,3) | 27 |
chain |
链式操作 |
chain(3).add(4).multiply(2).done() |
14 |
atan2 |
返回其参数商的反正切值 | atan2(15,30) |
0.4636476090008061 |
log | 返回给定数字的自然Log值(即e的底数) | log(9) |
2.1972245773362196 |
pi |
圆周率 | console.log('pi:', pi) |
3.141592653589793 |
e | 欧拉常数和自然对数的基数,约为 2.718 | console.log('e:', e) |
2.718281828459045 |
derivative |
待考证 | console.log('derivative:',derivative('x^2 + x', 'x')) |
|
matrix |
矩阵操作 |
matrix([0, 1, 2, 3, 4]) |
3.4、方法四,bignumber.js - npm
Weekly Download 8826960 (20230324)
pnpm add bignumber.js
const num = new BigNumber(1234567890.0123456789) | |||
const num1 = new BigNumber(123.123) | |||
方法 | 运算 | 使用 | 运算结果 |
toFormat |
格式化 |
num.toFormat() |
1,234,567,890.0123458 保留了七位小数,第七位依据第八位四舍五入 |
toFormat |
格式化 |
num.toFormat(3) |
1,234,567,890.012 保留三位小数 |
toFormat |
格式化 |
num.toFormat(13) |
1,234,567,890.012 保留十三位小数,实际还是保留了七位小数,第七位依据第八位四舍五入,然后位数用0补足 |
plus |
加法 | num1.plus(1.1) |
|
minus |
减法 | num1.minus(1.1) |
|
times |
乘法 | num1.times(2) |
|
div |
除法 | num1.div(2) |
|
mod |
取余 |
num1.mod(2) |
|
x.eq(y) |
isEqualTo--是否相等 |
num.eq(num1) |
false |
x.gt(y) |
isGreaterThan--是否大于 |
num.gt(num1) |
true |
x.gte(y) |
isGreaterThanOrEqualTo--是否大于等于 |
num.gte(num1) |
true |
x.lt(y) |
isLessThan--是否小于 |
num.lt(num1) |
false |
x.lte(y) |
isLessThanOrEqualTo--是否小于等于 |
num.lte(num1) |
false |
negated |
取非,改变数字的正负号 |
num.negated() |
3.5、方法五,big.js - npm
Weekly Download 21,339,420 (20230324)
pnpm add @types/big.js
const num = new Big(1234567890.0123456789) | |||
const num1 = new Big(123.123) | |||
方法 | 运算 | 使用 | 运算结果 |
plus |
加法 | num1.plus(1.1) |
|
minus |
减法 | num1.minus(1.1) |
|
times |
乘法 | num1.times(2) |
|
div |
除法 | num1.div(2) |
|
mod |
取余 |
num1.mod(2) |
|
x.eq(y) |
isEqualTo--是否相等 |
num.eq(num1) |
false |
x.gt(y) |
isGreaterThan--是否大于 |
num.gt(num1) |
true |
x.gte(y) |
isGreaterThanOrEqualTo--是否大于等于 |
num.gte(num1) |
true |
x.lt(y) |
isLessThan--是否小于 |
num.lt(num1) |
false |
x.lte(y) |
isLessThanOrEqualTo--是否小于等于 |
num.lte(num1) |
false |
3.6、方法六,decimal.js - npm
Weekly Download 16,251,713 (20230324)
pnpm add decimal.js
const num = new Big(1234567890.0123456789) | |||
const num1 = new Big(123.123) | |||
方法 | 运算 | 使用 | 运算结果 |
plus |
加法 | num1.plus(new Decimal(1.1)) |
|
minus |
减法 | num1.minus(new Decimal(1.1)) |
|
times |
乘法 | num1.times(new Decimal(2)) |
|
div |
除法 | num1.div(new Decimal(2)) |
|
mod |
取余 |
num1.mod(new Decimal(2)) |
|
x.eq(y) |
isEqualTo--是否相等 |
num.eq(num1) |
false |
x.gt(y) |
isGreaterThan--是否大于 |
num.gt(num1) |
true |
x.gte(y) |
isGreaterThanOrEqualTo--是否大于等于 |
num.gte(num1) |
true |
x.lt(y) |
isLessThan--是否小于 |
num.lt(num1) |
false |
x.lte(y) |
isLessThanOrEqualTo--是否小于等于 |
num.lte(num1) |
false |
四、欢迎交流指正,关注我,一起学习。
参考链接:文章来源:https://www.toymoban.com/news/detail-498322.html
JavaScript Math 参考手册文章来源地址https://www.toymoban.com/news/detail-498322.html
到了这里,关于JavaScript:解决计算精度问题/mathjs/bignumber.js/big.js/decimal.js的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!