为什么 Spark UI 上显示的 Executor Cores 与 Yarn 上的 vCore 数量不符?

这篇具有很好参考价值的文章主要介绍了为什么 Spark UI 上显示的 Executor Cores 与 Yarn 上的 vCore 数量不符?。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

你可能会在自己的集群上观察到:Spark UI 上显示的 Executor Cores 与 Yarn 上的 vCore 数量是不符的,本文将会给出详细解释。本文和《为什么我的集群一个 Spark Executor / Yarn Container 只有一个vCore?》一文有比较密切的关系,建议先阅读一下此文,本文可以看作是这篇文章的“补充”,因为原文只讨论了Yarn上的情况,并没有Spark UI和本地实际资源分配的讨论和验证!

注意:本文测试和说明使用的EMR 6.8,这一点非常重要,因为在后续的EMR版本上,例如EMR 6.11,会默认启用一个特别的配置,导致表现出的行为与本文描述有很大的出路,关于这种情况,在《》一文会给出详细的说明 。

集群配置

为了便于观察资源占用情况,我们特别使用了只有一个Worker节点的EMR集群,版本为EMR 6.8(注意:某些版本的EMR表现的行为与本文描述的情形是完全不同的,例如 EMR 6.11,因为集群的默认配置会有差异,关于这一情况,请参考《为什么Spark UI上显示的Executor数量和Cores与请求值完全不符?》) 。其中:Master节点:8 vCore / 64 GB, 1个Core节点:16 vCore / 128 文章来源地址https://www.toymoban.com/news/detail-668495.html

到了这里,关于为什么 Spark UI 上显示的 Executor Cores 与 Yarn 上的 vCore 数量不符?的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • spark底层为什么选择使用scala语言开发

    基于Scala的语言特性 集成性:Scala 是一种运行在 Java 虚拟机(JVM)上的静态类型编程语言,可以与 Java 代码无缝集成。由于 Spark 涉及到与大量 Java 生态系统的交互,例如 Hadoop、Hive 等,使用 Scala 可以方便地与这些组件进行集成和交互。 函数式编程支持:Scala 是一种面向函数

    2024年02月10日
    浏览(56)
  • hive on spark 时,executor和driver的内存设置,yarn的资源设置

    hive on spark 时,executor和driver的内存设置,yarn的资源设置。 在使用Hive on Spark时,需要进行以下三个方面的内存和资源设置: Executor的内存设置 在使用Hive on Spark时,需要根据数据量和任务复杂度等因素,合理地设置每个Executor的内存大小。通常情况下,每个Executor需要留一部分

    2024年02月16日
    浏览(41)
  • 报错:在从 Git 上拉取代码后,使用 npm install 安装依赖失败,但使用 yarn 可以成功安装,这是为什么

    在从 Git 上拉取代码后,使用 npm install 安装依赖失败,但使用 yarn 可以成功安装的原因可能有多种,以下是一些常见原因: 安装的依赖库版本不兼容。有时候,package.json 文件中的依赖库版本与本地或全局的 Node.js 环境不兼容,或与已安装的其他依赖库的版本不兼容,在使用

    2024年02月08日
    浏览(59)
  • 大数据面试题:说下Spark中的Transform和Action,为什么Spark要把操作分为Transform和Action?

    面试题来源: 《大数据面试题 V4.0》 大数据面试题V3.0,523道题,679页,46w字 可回答:Spark常见的算子介绍一下 参考答案: 我们先来看下Spark算子的作用: 下图描述了Spark在运行转换中通过算子对RDD进行转换。 算子是RDD中定义的函数,可以对RDD中的数据进行转换和操作。 输

    2024年02月13日
    浏览(40)
  • 为什么u盘在mac上显示不出来

    插入U盘是个看似简单的操作,但有时候在Mac电脑上却出现了无法显示U盘的情况。这样的问题是非常让人头疼的,特别是当你急需使用U盘中的文件时。那么,究竟为什么U盘在Mac上会显示不出来呢?今天就让我们一起来深入了解一下这个问题,以及如何解决。 一、常见原因 文

    2024年02月08日
    浏览(82)
  • Spark重温笔记(三):Spark在企业中为什么能这么强?——持久化、Checkpoint机制、共享变量与内核调度原理全攻略“

    前言:今天是温习 Spark 的第 3 天啦!主要梳理了 Spark 核心数据结构:RDD(弹性分布式数据集),包括RDD持久化,checkpoint机制,spark两种共享变量以及spark内核调度原理,希望对大家有帮助! Tips:\\\"分享是快乐的源泉💧,在我的博客里,不仅有知识的海洋🌊,还有满满的正能量

    2024年04月09日
    浏览(46)
  • 为什么安装了SSL证书,网站还是显示不安全?

    SSL证书是数字证书的一种,类似于驾驶证、护照和营业执照的电子副本。因为配置在服务器上,也称为SSL服务器证书。SSL证书就是遵守SSL协议,由受信任的数字证书颁发机构CA,在验证服务器身份后颁发,具有服务器身份验证和数据传输加密功能。由于http明文方式传输缺乏安

    2024年02月02日
    浏览(92)
  • 为什么vue打印的对象在浏览器中显示...

    1.现象 当在vue中打印对象的时候会发现有一些属性或者全部属性都是显示的...,点击展开后才能看到真正的值是什么. 2.原因 因为在vue中对象都是用了代理重写了get,由于get重写也就导致了浏览器不能直接获取到具体的值,因此才会在打印的时候为...,手动点击展开才显示具体的值

    2024年04月28日
    浏览(31)
  • 为什么UI自动化难做?—— 关于Selenium UI自动化的思考

    在快速迭代的产品、团队中,UI自动化通常是一件看似美好,实际“鸡肋”(甚至绝大部分连鸡肋都算不上)的工具。原因不外乎以下几点: 通常只是听说过,就想去搞UI自动化的团队,心里都认为「UI自动化」等于「减少人工 提高效率」,这固然没什么大错,但是他们也会

    2024年02月03日
    浏览(55)
  • 为什么我电脑一开机显示器不亮要重启显示器才亮

    电脑一开机显示器不亮要重启显示器才亮,原因如下: 1、有可能是显示器高压板,过压保护,造成灯管不增压。 2、也可能是二极管开环漏电造成,不能给显示器提供低电平,显示器处于保护状态是不给灯管加压的。 处理方法: 显示器的故障,最好是找专业人员来修理,因

    2024年02月16日
    浏览(132)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包