JavaScript 浮点数运算的精度问题

这篇具有很好参考价值的文章主要介绍了JavaScript 浮点数运算的精度问题。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

来源:https://zhuanlan.zhihu.com/p/191395766

问题描述

在 JavaScript 中整数和浮点数都属于 Number 数据类型,所有数字都是以 64 位浮点数形式储存,即便整数也是如此。 所以我们在打印 1.00 这样的浮点数的结果是 1 而非 1.00 。在一些特殊的数值表示中,例如金额,这样看上去有点变扭,但是至少值是正确了。然而要命的是,当浮点数做数学运算的时候,你经常会发现一些问题,举几个例子:

JavaScript 代码:

// 加法 =====================
// 0.1 + 0.2 = 0.30000000000000004
// 0.7 + 0.1 = 0.7999999999999999
// 0.2 + 0.4 = 0.6000000000000001
// 2.22 + 0.1 = 2.3200000000000003
 
// 减法 =====================
// 1.5 - 1.2 = 0.30000000000000004
// 0.3 - 0.2 = 0.09999999999999998
 
// 乘法 =====================
// 19.9 * 100 = 1989.9999999999998
// 19.9 * 10 * 10 = 1990
// 1306377.64 * 100 = 130637763.99999999
// 1306377.64 * 10 * 10 = 130637763.99999999
// 0.7 * 180 = 125.99999999999999
// 9.7 * 100 = 969.9999999999999
// 39.7 * 100 = 3970.0000000000005
 
// 除法 =====================
// 0.3 / 0.1 = 2.9999999999999996
// 0.69 / 10 = 0.06899999999999999

 

问题的原因

似乎是不可思议。小学生都会算的题目,JavaScript 不会?我们来看看其真正的原因。

JavaScript 里的数字是采用 IEEE 754 标准的 64 位双精度浮点数。该规范定义了浮点数的格式,对于64位的浮点数在内存中的表示,最高的1位是符号位,接着的11位是指数,剩下的52位为有效数字,具体:

  • 第0位:符号位, s 表示 ,0表示正数,1表示负数;
  • 第1位到第11位:储存指数部分, e 表示 ;
  • 第12位到第63位:储存小数部分(即有效数字),f 表示,

如图:

 

 

符号位决定了一个数的正负,指数部分决定了数值的大小,小数部分决定了数值的精度。 IEEE 754规定,有效数字第一位默认总是1,不保存在64位浮点数之中。也就是说,有效数字总是1.xx…xx的形式,其中xx..xx的部分保存在64位浮点数之中,最长可能为52位。因此,JavaScript提供的有效数字最长为53个二进制位(64位浮点的后52位+有效数字第一位的1)。

计算过程

比如在 JavaScript 中计算 0.1 + 0.2时,到底发生了什么呢?

首先,十进制的0.10.2都会被转换成二进制,但由于浮点数用二进制表达时是无穷的,例如。

JavaScript 代码:

0.1 -> 0.0001100110011001...(无限)
0.2 -> 0.0011001100110011...(无限)

 

IEEE 754 标准的 64 位双精度浮点数的小数部分最多支持 53 位二进制位,所以两者相加之后得到二进制为:

JavaScript 代码:

0.0100110011001100110011001100110011001100110011001100 

 

因浮点数小数位的限制而截断的二进制数字,再转换为十进制,就成了 0.30000000000000004。所以在进行算术计算时会产生误差。

整数的精度问题

在 Javascript 中,整数精度同样存在问题,先来看看问题:

JavaScript 代码:

console.log(19571992547450991); //=> 19571992547450990
console.log(19571992547450991===19571992547450992); //=> true

 

同样的原因,在 JavaScript 中 Number类型统一按浮点数处理,整数是按最大54位来算最大(253 - 1Number.MAX_SAFE_INTEGER,9007199254740991) 和最小(-(253 - 1)Number.MIN_SAFE_INTEGER,-9007199254740991) 安全整数范围的。所以只要超过这个范围,就会存在被舍去的精度问题。

当然这个问题并不只是在 Javascript 中才会出现,几乎所有的编程语言都采用了 IEEE-745 浮点数表示法,任何使用二进制浮点数的编程语言都会有这个问题,只不过在很多其他语言中已经封装好了方法来避免精度的问题,而 JavaScript 是一门弱类型的语言,从设计思想上就没有对浮点数有个严格的数据类型,所以精度误差的问题就显得格外突出。

解决方案

上面说了这么多问题和原因,这里给出一些解决方案。

类库

通常这种对精度要求高的计算都应该交给后端去计算和存储,因为后端有成熟的库来解决这种计算问题。前端也有几个不错的类库:

Math.js

Math.js 是专门为 JavaScript 和 Node.js 提供的一个广泛的数学库。它具有灵活的表达式解析器,支持符号计算,配有大量内置函数和常量,并提供集成解决方案来处理不同的数据类型
像数字,大数字(超出安全数的数字),复数,分数,单位和矩阵。 功能强大,易于使用。

官网:

GitHub:

decimal.js

为 JavaScript 提供十进制类型的任意精度数值。

官网:

GitHub:

big.js

官网:

GitHub:

这几个类库帮我们解决很多这类问题,不过通常我们前端做这类运算通常只用于表现层,应用并不是很多。所以很多时候,一个函数能解决的问题不需要引用一个类库来解决。

下面介绍各个更加简单的解决方案。

整数表示

对于整数,我们可以通过用String类型的表示来取值或传值,否则会丧失精度。

格式化数字、金额、保留几位小数等

如果只是格式化数字、金额、保留几位小数等可以查看这里 

浮点数运算

toFixed() 方法

浮点数运算的解决方案有很多,这里给出一种目前常用的解决方案, 在判断浮点数运算结果前对计算结果进行精度缩小,因为在精度缩小的过程总会自动四舍五入。

toFixed() 方法使用定点表示法来格式化一个数,会对结果进行四舍五入。语法为:

JavaScript 代码:

numObj.toFixed(digits)

 

参数 digits 表示小数点后数字的个数;介于 0 到 20 (包括)之间,实现环境可能支持更大范围。如果忽略该参数,则默认为 0。

返回一个数值的字符串表现形式,不使用指数记数法,而是在小数点后有 digits 位数字。该数值在必要时进行四舍五入,另外在必要时会用 0 来填充小数部分,以便小数部分有指定的位数。 如果数值大于 1e+21,该方法会简单调用 Number.prototype.toString()并返回一个指数记数法格式的字符串。

特别注意:toFixed() 返回一个数值的字符串表现形式。

具体可以查看 MDN中的说明,那么我们可以这样解决精度问题:

JavaScript 代码:

parseFloat((数学表达式).toFixed(digits)); // toFixed() 精度参数须在 0 与20 之间
// 运行
parseFloat((1.0 - 0.9).toFixed(10)) // 结果为 0.1   
parseFloat((0.3 / 0.1).toFixed(10)) // 结果为 3  
parseFloat((9.7 * 100).toFixed(10)) // 结果为 970 
parseFloat((2.22 + 0.1).toFixed(10)) // 结果为 2.32

 

在老版本的IE浏览器(IE 6,7,8)中,toFixed()方法返回值不一定准确。所以这个方法以前很少用。以至于网上搜索出来的结果大都是下面这些方法。

还有一些其他的解决方案,简单的说需要将浮点数转换字符串,分隔成为整数部分和小数部分,小数部分再转换为整数,计算结果后,再转换为浮点数。这过程有点复杂…,网上找一下:

加法函数

JavaScript 代码:

/**
 ** 加法函数,用来得到精确的加法结果
 ** 说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
 ** 调用:accAdd(arg1,arg2)
 ** 返回值:arg1加上arg2的精确结果
 **/
function accAdd(arg1, arg2) {
 var r1, r2, m, c;
 try {
        r1 = arg1.toString().split(".")[1].length;
 }
 catch (e) {
        r1 = 0;
 }
 try {
        r2 = arg2.toString().split(".")[1].length;
 }
 catch (e) {
        r2 = 0;
 }
    c = Math.abs(r1 - r2);
    m = Math.pow(10, Math.max(r1, r2));
 if (c > 0) {
 var cm = Math.pow(10, c);
 if (r1 > r2) {
            arg1 = Number(arg1.toString().replace(".", ""));
            arg2 = Number(arg2.toString().replace(".", "")) * cm;
 } else {
            arg1 = Number(arg1.toString().replace(".", "")) * cm;
            arg2 = Number(arg2.toString().replace(".", ""));
 }
 } else {
        arg1 = Number(arg1.toString().replace(".", ""));
        arg2 = Number(arg2.toString().replace(".", ""));
 }
 return (arg1 + arg2) / m;
}
 
//给Number类型增加一个add方法,调用起来更加方便。
Number.prototype.add = function (arg) {
 return accAdd(arg, this);
};

 

减法函数

JavaScript 代码:

/**
 ** 减法函数,用来得到精确的减法结果
 ** 说明:javascript的减法结果会有误差,在两个浮点数相减的时候会比较明显。这个函数返回较为精确的减法结果。
 ** 调用:accSub(arg1,arg2)
 ** 返回值:arg1加上arg2的精确结果
 **/
function accSub(arg1, arg2) {
 var r1, r2, m, n;
 try {
        r1 = arg1.toString().split(".")[1].length;
 }
 catch (e) {
        r1 = 0;
 }
 try {
        r2 = arg2.toString().split(".")[1].length;
 }
 catch (e) {
        r2 = 0;
 }
    m = Math.pow(10, Math.max(r1, r2)); //last modify by deeka //动态控制精度长度
    n = (r1 >= r2) ? r1 : r2;
 return ((arg1 * m - arg2 * m) / m).toFixed(n);
}
 
// 给Number类型增加一个mul方法,调用起来更加方便。
Number.prototype.sub = function (arg) {
 return accMul(arg, this);
};

 

乘法函数

JavaScript 代码:

/**
 ** 乘法函数,用来得到精确的乘法结果
 ** 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
 ** 调用:accMul(arg1,arg2)
 ** 返回值:arg1乘以 arg2的精确结果
 **/
function accMul(arg1, arg2) {
 var m = 0, s1 = arg1.toString(), s2 = arg2.toString();
 try {
        m += s1.split(".")[1].length;
 }
 catch (e) {
 }
 try {
        m += s2.split(".")[1].length;
 }
 catch (e) {
 }
 return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);
}
 
// 给Number类型增加一个mul方法,调用起来更加方便。
Number.prototype.mul = function (arg) {
 return accMul(arg, this);
};

 

除法函数

JavaScript 代码:

/** 
 ** 除法函数,用来得到精确的除法结果
 ** 说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
 ** 调用:accDiv(arg1,arg2)
 ** 返回值:arg1除以arg2的精确结果
 **/
function accDiv(arg1, arg2) {
 var t1 = 0, t2 = 0, r1, r2;
 try {
        t1 = arg1.toString().split(".")[1].length;
 }
 catch (e) {
 }
 try {
        t2 = arg2.toString().split(".")[1].length;
 }
 catch (e) {
 }
 with (Math) {
        r1 = Number(arg1.toString().replace(".", ""));
        r2 = Number(arg2.toString().replace(".", ""));
 return (r1 / r2) * pow(10, t2 - t1);
 }
}
 
//给Number类型增加一个div方法,调用起来更加方便。
Number.prototype.div = function (arg) {
 return accDiv(this, arg);
};

 

相关推荐

1.JavaScript 精粹:Number 与 Math

2.javascript的基本数据类型有哪些

3.javascript教程文章来源地址https://www.toymoban.com/news/detail-710568.html

到了这里,关于JavaScript 浮点数运算的精度问题的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • JavaScript数值计算时精度问题处理

    当使用 JavaScript 进行数值计算时,会面临一些精度问题,这些问题可能会导致不正确的结果。以下是一些常见的奇奇怪怪的 js 数据精度问题: 1. 浮点数精度问题 在 JS 中,浮点数的精度有限。例如: 这个结果显然不符合我们的期望。因为这是由于浮点数本身就无法表示 0.1

    2024年02月10日
    浏览(47)
  • C语言实例:输出浮点数和双精度浮点数的四种函数

    C语言中有多种函数可以用来输出浮点数,常见的有printf()、puts()、putchar()、fputs()等。下面是具体的实例: 在C语言中,%f是用来格式化输出浮点数的占位符。例如,printf(“浮点数为:%fn”, num); 中的%f表示输出变量num的值并按照浮点数格式进行显示。 输出结果: 输出结果:

    2024年02月15日
    浏览(44)
  • 【Python】字符串 ④ ( Python 浮点数精度控制 | 控制数字的宽度和精度 )

    在上一篇博客 【Python】字符串 ③ ( Python 字符串格式化 | 单个占位符 | 多个占位符 | 不同类型的占位符 ) 中 , 拼接字符串中 , float 浮点类型出现如下情况 , 小数点后有 6 位 ; 代码示例 : 执行结果 : 使用 辅助符号 \\\" m.n \\\" 可以控制数据的 宽度 和 精度 ; m 用于控制宽度 , 如果 设置

    2023年04月14日
    浏览(40)
  • C语言中的float(单精度浮点数)

    本文主要记录一下Float的一些基础知识。 在计算机界,有个规定叫IEEE754,它规定了如何以二进制的方式来存储10进制的数。 按照这个规定,单精度浮点数(float)这个数据类型所占内存大小为4个字节,也就是32位,所以单精度浮点数也叫32位浮点数,它在内存或硬盘中要占用

    2024年02月07日
    浏览(38)
  • Kotlin浮点数Float整数Int乘*除/精度损失

    Kotlin浮点数Float整数Int乘*除/精度损失     0.85 0 0.85 2 2.5 8.5         Java小数点数字和百分号数字之间的转换_将浮点型转为百分比 java-CSDN博客 文章浏览阅读5.7k次,点赞3次,收藏5次。Java小数点数字和百分号数字之间的转换小数点数字和百分号(百分比)数字之间的转换在证

    2024年01月21日
    浏览(70)
  • JavaScript:解决计算精度问题/mathjs/bignumber.js/big.js/decimal.js

    一、计算精度现象举例 举例1、加法 举例2、减法    举例3、乘法 举例3、除法 二、JS为什么会有计算精度的问题 JavaScript 内部只有一种数字类型Number,也就是说,JavaScript 语言的底层根本没有整数,所有数字都是以IEEE-754标准格式64位浮点数形式储存,1与1.0是相同的。因为有

    2024年02月10日
    浏览(42)
  • 【C语言趣味教程】(3) 浮点类型:单精度浮点数 | 双精度浮点型 | IEEE754 标准 | 介绍雷神之锤 III 源码中的平方根倒数速算法 | 浮点数类型的表达方式

       🔗 《C语言趣味教程》👈 猛戳订阅!!! 0x00 引入:什么是浮点数? 在讲解浮点类型前,我们不妨先先来了解一下什么是浮点数, 浮点 (float point),又称  实型数 。 顾名思义就是 \\\"一个漂浮的点\\\",其英文 float 也是这个含义(浮动, 漂浮之意)。

    2024年02月15日
    浏览(48)
  • ⚡【C语言趣味教程】(3) 浮点类型:单精度浮点数 | 双精度浮点型 | IEEE754 标准 | 介绍雷神之锤 III 源码中的平方根倒数速算法 | 浮点数类型的表达方式

       🔗 《C语言趣味教程》👈 猛戳订阅!!! 0x00 引入:什么是浮点数? 在讲解浮点类型前,我们不妨先先来了解一下什么是浮点数, 浮点 (float point),又称  实型数 。 顾名思义就是 \\\"一个漂浮的点\\\",其英文 float 也是这个含义(浮动, 漂浮之意)。

    2024年02月16日
    浏览(67)
  • C#四个字节十六进制与单精度浮点数互转

    C#四个字节十六进制与单精度浮点数互转可以使用自带的函数,也可以自己写 实例如下:

    2024年02月13日
    浏览(43)
  • 浮点数在内存中的运算

    他们力量的源泉,是值得信赖的搭档以及想要保护的对象还有强大的敌人 本文收录于青花雾气-计算机基础 往期回顾 从汇编代码探究函数栈帧的创建和销毁的底层原理 从0到1搞定在线OJ 数据在内存中的存储 计算机存储的大小端模式 目录 浮点数的二进制转化及存储规则等 浮

    2024年02月08日
    浏览(47)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包