JAVA double精度丢失问题

这篇具有很好参考价值的文章主要介绍了JAVA double精度丢失问题。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

double类型精度丢失问题:

0.1*0.1使用计算器计算是0.01,代码里却是0.010000000000000002
javadouble精度丢失,android,java,java
javadouble精度丢失,android,java,java

public class HelloWorld {
    public static void main(String []args) {
       double number1 = 0.1;
	   double number2 = 0.1;
	   double result = number1 * number2 ;
	   System.out.println("使用double运算结果: "+result);
    }
}

为什么会这样呢?这就是精度丢失问题造成的。

为什么会出现精度丢失?

因为计算机只能识别0和1,即二进制,无论哪种编程语言,都需要翻译成二进制才能被计算机识别。

很多人还知道这样一句话:这种舍入误差的主要原因是浮点数值采用二进制系统表示, 而在二进制系统中无法精确地表示分数 1/10。这就好像十进制无法精确地表示分数 1/3—样

针对十进制,1除以3是除不尽的。很好理解,因为我们一直接触的就是十进制,等于0.333333… 很好理解
但是:二进制系统中无法精确地表示分数 1/10。为啥呢。就有点不理解了
《Java核心技术卷》书上也是这么写的。
javadouble精度丢失,android,java,java
十进制 转二进制(每次将小数部分乘2,取出整数部分,如果小数部分为0,就可以停止这个过程):十进制0.1

0.1*2=0.2
0.2*2=0.4
0.4*2=0.8
0.8*2=1.6

0.6*2=1.2
0.2*2=0.4
0.4*2=0.8
//... 应该已经发现,上面的过程已经开始循环,小数部分永远不能为0

怎么解决精度丢失问题?

在商城里面计算订单金额的时候,我们就不得不解决这个问题了,这时候就用到了BigDecimal

BigDecimal类位于java.math包下,用于对超过16位有效位的数进行精确的运算。

一般来说,double类型的变量可以处理16位有效数,

但实际应用中,如果超过16位,就需要BigDecimal类来操作

new BigDecimal(double val)
javadouble精度丢失,android,java,java
new BigDecimal(String val)
javadouble精度丢失,android,java,java
BigDecimal.valueOf(double val)
javadouble精度丢失,android,java,java
将double转为BigDecimal的时候,需要先把double转换为字符串,然后再作为BigDecimal(String val)构造函数的参数,这样才能避免出现精度问题。


import java.math.BigDecimal;

public class BigDecimalUtil {

    /**
     * double类型的加法运算(不需要舍入)
     * @param d1
     * @param d2
     * @return 不加doubleValue()则, 返回BigDecimal对象
     */
    public static double addDouble(double d1, double d2) {
        BigDecimal p1 = new BigDecimal(Double.toString(d1));
        BigDecimal p2 = new BigDecimal(Double.toString(d2));
        return p1.add(p2).doubleValue();
    }

    /**
     * double类型的加法运算(需要舍入)
     * @param d1
     * @param d2
     * @param scale 保留scale位小数
     * @return 不加doubleValue()则, 返回BigDecimal对象
     */
    public static double addDouble(double d1, double d2, int scale) {
        BigDecimal p1 = new BigDecimal(Double.toString(d1));
        BigDecimal p2 = new BigDecimal(Double.toString(d2));
        return p1.add(p2).setScale(scale, BigDecimal.ROUND_HALF_UP).doubleValue();
    }

    /**
     * double类型的超大数值加法运算(超过50 0000)(需要舍入)
     * @param d1
     * @param d2
     * @param scale 保留scale位小数
     * @return 返回字符串,不然double数字会转成科学计数法显示
     */
    public static String addDoubleToStr(double d1, double d2, int scale) {
        BigDecimal p1 = new BigDecimal(Double.toString(d1));
        BigDecimal p2 = new BigDecimal(Double.toString(d2));
        return p1.add(p2).setScale(scale, BigDecimal.ROUND_HALF_UP).toPlainString();
    }

    /**
     * double类型的减法运算
     * @param d1
     * @param d2
     * @return 不加doubleValue()则, 返回BigDecimal对象
     */
    public static double subtractDouble(double d1, double d2) {
        BigDecimal p1 = new BigDecimal(Double.toString(d1));
        BigDecimal p2 = new BigDecimal(Double.toString(d2));
        return p1.subtract(p2).doubleValue();
    }

    /**
     * double类型的减法运算(需要舍入)
     * @param d1
     * @param d2
     * @param scale  保留scale位小数
     * @return  不加doubleValue()则, 返回BigDecimal对象
     */
    public static double subtractDouble(double d1, double d2, int scale) {
        BigDecimal p1 = new BigDecimal(Double.toString(d1));
        BigDecimal p2 = new BigDecimal(Double.toString(d2));
        return p1.subtract(p2).setScale(scale, BigDecimal.ROUND_HALF_UP).doubleValue();
    }

    /**
     * double类型的超大数值减法运算(需要舍入)
     * @param d1
     * @param d2
     * @param scale 保留scale位小数
     * @return  返回字符串,不然double数字会转成科学计数法显示
     */
    public static String subtractDoubleToStr(double d1, double d2, int scale) {
        BigDecimal p1 = new BigDecimal(Double.toString(d1));
        BigDecimal p2 = new BigDecimal(Double.toString(d2));
        return p1.subtract(p2).setScale(scale, BigDecimal.ROUND_HALF_UP).toPlainString();
    }

    /**
     * double类型的乘法运算
     *
     * @param d1
     * @param d2
     * @return 不加doubleValue()则, 返回BigDecimal对象
     */
    public static double multiplyDouble(double d1, double d2) {
        BigDecimal p1 = new BigDecimal(Double.toString(d1));
        BigDecimal p2 = new BigDecimal(Double.toString(d2));
        return p1.multiply(p2).doubleValue();
    }

    /**
     * double类型的乘法运算(需要舍入)
     * @param d1
     * @param d2
     * @param scale 保留scale位小数
     * @return 不加doubleValue()则, 返回BigDecimal对象
     */
    public static double multiplyDouble(double d1, double d2, int scale) {
        BigDecimal p1 = new BigDecimal(Double.toString(d1));
        BigDecimal p2 = new BigDecimal(Double.toString(d2));
        return p1.multiply(p2).setScale(scale, BigDecimal.ROUND_HALF_UP).doubleValue();
    }

    /**
     * double类型的超大数值的乘法运算(需要舍入)
     * @param d1
     * @param d2
     * @param scale 保留scale位小数
     * @return 返回字符串,不然double数字会转成科学计数法显示
     */
    public static String multiplyDoubleToStr(double d1, double d2, int scale) {
        BigDecimal p1 = new BigDecimal(Double.toString(d1));
        BigDecimal p2 = new BigDecimal(Double.toString(d2));
        return p1.multiply(p2).setScale(scale, BigDecimal.ROUND_HALF_UP).toPlainString();
    }

    /**
     * double类型的除法运算(需要舍入)
     *
     * @param d1
     * @param d2
     * @param scale 保留scale位小数
     * @return 不加doubleValue()则, 返回BigDecimal对象
     */
    public static double divideDouble(double d1, double d2, int scale) {
        if (scale < 0) {
            throw new IllegalArgumentException("Parameter error");
        }
        BigDecimal p1 = new BigDecimal(Double.toString(d1));
        BigDecimal p2 = new BigDecimal(Double.toString(d2));
        return p1.divide(p2, scale, BigDecimal.ROUND_HALF_UP).doubleValue();
    }

    /**
     * double类型的超大数值的除法运算(需要舍入)
     * @param d1
     * @param d2
     * @param scale 保留scale位小数
     * @return 返回字符串,不然double数字会转成科学计数法显示
     */
    public static String divideDoubleToStr(double d1, double d2, int scale) {
        if (scale < 0) {
            throw new IllegalArgumentException("Parameter error");
        }
        BigDecimal p1 = new BigDecimal(Double.toString(d1));
        BigDecimal p2 = new BigDecimal(Double.toString(d2));
        return p1.divide(p2, scale, BigDecimal.ROUND_HALF_UP).toPlainString();
    }
}

各个roundingMode详解如下:文章来源地址https://www.toymoban.com/news/detail-745259.html

ROUND_UP:非0时,舍弃小数后(整数部分)加1,比如12.49结果为13,-12.49结果为 -13
ROUND_DOWN:直接舍弃小数
ROUND_CEILING:如果 BigDecimal 是正的,则做 ROUND_UP 操作;如果为负,则做 ROUND_DOWN 操作 (一句话:取附近较大的整数)
ROUND_FLOOR: 如果 BigDecimal 是正的,则做 ROUND_DOWN 操作;如果为负,则做 ROUND_UP 操作(一句话:取附近较小的整数)
ROUND_HALF_UP:四舍五入(取更近的整数)
ROUND_HALF_DOWN:跟ROUND_HALF_UP 差别仅在于0.5时会向下取整
ROUND_HALF_EVEN:取最近的偶数
ROUND_UNNECESSARY:不需要取整,如果存在小数位,就抛ArithmeticException 异常

到了这里,关于JAVA double精度丢失问题的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 完美解决!处理精度丢失问题点

    目录 1. 解决后端响应数据给前端出现精度丢失问题 2. Freemark BigDecimal数据显示精度丢失问题 3. 前端调用方法传值精度丢失问题 解决方式一: 在项目中都是将注解标注在对应字段上,在Json序列化的时候把Long自动转为String。  解决方式二: 全局配置 每个实体类的id字段都需要

    2024年02月15日
    浏览(70)
  • JS小数运算精度丢失的问题

    工作中会不会经常会碰到一些数据指标的计算,比如百分比转化,保留几位小数等,就会出现计算不准确,数据精度丢失的情况。通过这篇分享借助第三方库能够轻松解决数据精度丢失的问题。 JS数字精度丢失的一些常见问题 为什么0.1 + 0.2 === 0.3是false呢? 先看下面这个比喻

    2024年02月08日
    浏览(52)
  • 前端计算数字精度丢失问题解决方法记录

    在日常一些需求中,总会遇到一些需要前端进行手动计算的场景,那么这里需要优先考虑的则是数字精度问题!具体请看下面截图 如图所示,在JavaScript进行浮点型数据计算当中,会出现计算结果“不正确”的现象。 我们知道浮点型数据类型主要有:单精度float、双精度doub

    2024年02月05日
    浏览(74)
  • 后端Long类型传到前端精度丢失的问题

    问题出现:后端的Java Bean的id属性是用的Long类型对应数据库主键使用bigint类型,当使用JSON方式传递该数据给前端时,前端接收到的数据末尾会变成0。(发生的精度丢失问题) 问题原因:Java中的long能表示的范围比js中number大,也就意味着部分数值在js中存不下(变成不准确的值

    2024年02月16日
    浏览(60)
  • 记录--前端金额运算精度丢失问题及解决方案

    前端开发中难免会遇到价格和金额计算的需求,这类需求所要计算的数值大多数情况下是要求精确到小数点后的多少位。但是因为JS语言本身的缺陷,在处理浮点数的运算时会出现一些奇怪的问题,导致计算不精确。 本文尝试从现象入手,分析造成这一问题原因,并总结和整

    2024年02月19日
    浏览(46)
  • 后端传long类型数据到前端精度丢失问题

    在 Spring Boot 中,将 long 类型传输到前端时,会发现该类型的值可能会出现精度丢失的问题。 这是因为在 JavaScript 中,数字类型默认会被转换为双精度浮点数,而双精度浮点数的精度有限,只能精确表示 2 的 53 次方以内(即 Number.MAX_SAFE_INTEGER,约为 9 x 10^15)的整数。对于超过

    2024年02月15日
    浏览(48)
  • java中计算缺失精度的问题

    Java中计算会缺失精度的主要原因是浮点数的精度问题和整数溢出问题。 浮点数的精度 Java中的浮点数类型为float和double,它们采用的是IEEE 754规范的浮点数编码,这种编码方式虽然能够表示大范围的实数,但存在一定的精度损失。例如,浮点数在进行加减乘除等运算时,精度

    2024年02月13日
    浏览(48)
  • 前端接收后端数据时,遇到精度丢失的问题

    之前项目开发过程中遇到过前端接收后端数据时,遇到精度丢失的问题。当时进行了问题记录,本篇博客针对于这个问题进行问题原因并进行多种方式解决这个问题。 前端接收后端返回的数据时出现精度丢失问题,通常是因为在数据传输过程中,数据类型被转换为了 JavaScr

    2024年02月02日
    浏览(70)
  • 如何解决前端传递数据给后端时精度丢失问题

    有时候我们在进行修改操作时,发现修改既不报错也不生效。我们进行排查后发现服务器端将数据返回给前端时没有出错,但是前端js将数据进行处理时却出错了,因为id是Long类型的,而js在处理后端返回给前端的Long类型数据时只能处理前16位,后3位进行了四舍五入操作,例

    2024年02月09日
    浏览(63)
  • C#的String转换成float防止精度丢失问题

      1、精度问题: float x = float.Parse(s); 在提交小数的时候会出现精度丢失问题, 举个例子,unity中的Position中的x,y,z为2.073282,-1.106536,转换成float肯定会丢失值   f loat:浮点型,含字节数为4,32bit,数值范围为-3.4E38~3.4E38(7个有效位)  double:双精度实型,含字节数为8,64bit数

    2024年02月13日
    浏览(44)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包