【Java se】为什么大部分小数在计算机中是不精确的

这篇具有很好参考价值的文章主要介绍了【Java se】为什么大部分小数在计算机中是不精确的。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

目录

目录

一、什么是小数

二、浮点数在计算机中的转换规则

(1)整数部分转换步骤

(2) 小数部分转换步骤

三、使用代码说明

四、手动转换小数

五、解决办法


一、什么是小数

        在计算机中,也称小数为浮点数,因为在使用科学计数法时,数字的小数点是可以“浮动”的。

        在Java中,关于浮点数有两种数据类型:

Float Double
含义 单精度浮点数 双精度浮点数
Java中的默认值 不是默认浮点数类型 是默认浮点数类型
Java中所占字节数 4字节 8字节
最大值

3.4E38

1.79E308

二、浮点数在计算机中的转换规则

        数字在计算机中是采用二进制存储的,在将小数存入计算机中时,要将十进制转为二进制,最后呈现给我们的是二进制在重新转换为十进制的结果。而在十进制转换为二进制的过程中,极易出现无限循环的情况,因此小数将变得不再精确。计算机最终会取一个无限接近结果的小数作为结果。

        十进制数转换为二进制数时,需要对整数部分与小数部分分别进行转换。

(1)整数部分转换步骤

        1.使用十进制的值除以2,得到两个部分,商和余数;

        2.商继续除以2,直到商为0为止;

        3.余数倒着看,就是二进制的值。

(2) 小数部分转换步骤

        1.整数部分转整数部分,小数部分转小数部分;

        2.把十进制的小数乘以2:

                (1).结果如果大于1,转换后的小数后面记1;

                (2).结果如果小于1,转换后的小数后面记0。

        3.直到结果为1.0为止。

三、使用代码说明

public class Demo01 {
	public static void main(String[] args) {
		double x = 10 - 9.9;
		double y = 1.0 - 9.0 / 10;
		
		//观察x和y是否相等:
		System.out.println(x);
		System.out.println(y);
		
		//判断x和y是否相等
		System.out.println(x == y);
		System.out.println(Math.abs(x - y) < 0.000001); //Math.abs()取绝对值
	}
}

        运行结果:

【Java se】为什么大部分小数在计算机中是不精确的

         我们发现,在日常计算中,x与y的值应该是相等的,但是使用浮点数进行除法运算后,就已经将值变得不精确了,因此,两个算式的最终结果不一致,并且相差很小。

四、手动转换小数

        将十进制数0.6转换为二进制数

【Java se】为什么大部分小数在计算机中是不精确的        我们发现,这里出现了循环,因此浮点数是不精确的。

五、解决办法

        使用BigDecimal类,举例代码如下:

public class Demo02 {
	public static void main(String[] args) {
		
		System.out.println("============直接计算============");
		System.out.println("0.1 × 0.2 = " + 0.1 * 0.2);
		
		
		System.out.println("=====使用BigDecimal + 字符串=====");
		BigDecimal d1 = new BigDecimal("0.1");
		BigDecimal d2 = new BigDecimal("0.2");
		BigDecimal d3 = d1.multiply(d2);
		double result = d3.doubleValue();
		System.out.println("0.1 × 0.2 = " + result);
	}
}

        运行结果如下:文章来源地址https://www.toymoban.com/news/detail-474410.html

============直接计算============
0.1 × 0.2 = 0.020000000000000004
=====使用BigDecimal + 字符串=====
0.1 × 0.2 = 0.02

到了这里,关于【Java se】为什么大部分小数在计算机中是不精确的的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 1200 + AI工具大收录,58个分类,支持大部分行业

    提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档 文章目录 前言 一、使用步骤 总结 随着人工智能技术的不断发展,越来越多的AI工具涌现出来,它们在各个领域中得到了广泛的应用。除了常用的文本、图片、视频AI工具,还有普通办公、设计、编程、

    2024年02月16日
    浏览(37)
  • 低代码产品如何分类,大部分人都没有搞清楚

    最近许多技术峰会都出现了低代码这个名词,可以说,低代码是中台之后,又一个热门话题和名词了。 低代码平台是 无需编码或通过少量代码 就可以快速生成应用程序的开发平台。也是一款图形化、拖拉拽方式快速实现企业数字化转型中的创新应用、支持用少量代码扩展实

    2023年04月20日
    浏览(61)
  • MySQL 字段为 NULL 的5大坑,大部分人踩过

    在验证问题之前,我们先建一张测试表及测试数据。   构建的测试数据,如下图所示:   有了上面的表及数据之后,我们就来看当列中存在 NULL 值时,究竟会导致哪些问题? 我们都知道, count 是用来计数的,当表中某个字段存在 NULL 值时,就会造成 count 计算出来的数据丢

    2024年02月05日
    浏览(50)
  • 安全清理大部分的C盘内存(一般10GB以上)

     如果感觉有用请 关注,点赞,收藏!  下次分享更有用的干货~ 欢迎转载,请注明出处! 用360清理发现, windows search日志 占用了70多个G空间,先清除!    该日志文件有撒用呢?  如果没有这个日志文件,我们在文件系统进行搜索的时候就会比较慢了,而且还会出现这样的

    2023年04月15日
    浏览(54)
  • CTF Misc(2)内存取证基础以及原理,覆盖了大部分题型

    内存取证在ctf比赛中也是常见的题目,内存取证是指在计算机系统的内存中进行取证分析,以获取有关计算机系统当前状态的信息。内存取证通常用于分析计算机系统上运行的进程、网络连接、文件、注册表等信息,并可以用于检测和分析恶意软件、网络攻击和其他安全事件

    2024年02月12日
    浏览(47)
  • windows11(win10大部分通用)系统C盘清理 | 深度优化

    前言 :首先对于计算机来说,Windows操作系统一般是安装在磁盘驱动器的C盘中,运行时会产生许多  垃圾文件  ,C盘空间在一定程度上会越来越小。而把它作为生产力工具的我们,时间越久,C盘常常会提示显示其内存已不足。C盘容量不足将会极大  影响系统的运行速度  ,

    2024年02月05日
    浏览(75)
  • 校园综合服务平台V3.9.2 源码修复大部分已知BUG

    校园综合服务平台,版本更新至V3.9.1  ,源码功能强大,ui 精美, 功能包含但不限于校园跑腿,外卖,组局,圈子,商城,抽奖,投票,团购,二手市场,签到,积分商城,一元购等!即刻源码持续更新

    2024年04月26日
    浏览(55)
  • 50个Linux常用命令行快捷键(大部分适配Mac OS)

    50个Linux常用命令行快捷键 (大部分适配Mac OS) 移动光标到行首: Ctrl + a 移动光标到行尾: Ctrl + e 移动光标到上一个单词的开头: Ctrl + ← 移动光标到下一个单词的开头: Ctrl + → 删除光标之前的字符: Ctrl + u 删除光标之后的字符: Ctrl + k 删除光标之前的单词: Ctrl + w 清

    2024年02月10日
    浏览(61)
  • 数学建模美赛E、F题备考策略(自用,大部分复制粘贴)

    这里要讲一下故事的背景,我们小组三个人都是大一大二的学生,我的队友们都是数学专业的学生,所以比赛中的编程部分就交给了我这样的工业工程系的选手。我们在看完了历年赛题后一直认为:前面的几题我们都很难建立出很棒的模型,因此我们将目光对准E、F两题,希

    2024年01月17日
    浏览(48)
  • 面试官:synchronized 能不能禁止指令重排序?大部分人都会答错!

    首先一定要明确:指令重排序和有序性是不一样的。这一点非常重要。 我们经常都会这么说: volatile能保证内存可见性、禁止指令重排序但是不能保证原子性。 synchronized能保证原子性、可见性和有序性。 注意:这里的有序性并不是代表能禁止指令重排序。 举个例子: 在双

    2024年02月11日
    浏览(39)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包