【大数据】大数据运维学习前必须知道的几个常识(1),附架构师必备技术详解

这篇具有很好参考价值的文章主要介绍了【大数据】大数据运维学习前必须知道的几个常识(1),附架构师必备技术详解。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

如果我们选择了强一致性,又要满足分区容错性,就势必会牺牲一部分可用性。

注意:

  • CAP理论只适用于分布式系统
CAP理论的典型分布式系统

选择CP: HBASE

选择 AP: zookeeper,HDFS

选择CA: elasticsearch

大数据技术栈
  1. 数据采集和传输层: flume. logstash, sqoop,kafka,pulsar,HUE

  2. 数据存储层: HBase,Kudu, HDFS,

  3. 数据分析层: Spark,flink,Storm, MapReduce,HIVE,Tezpig,mahout,phoenix

  4. OLAP引擎: Druid , Kylin,lmpala, presto

  5. 资源管理层: yarn,kubernetes, mesos

  6. 工作调度器: Oozie , Azkaban

  7. 监测管理: openTSDB ,Ambari,ganglia

  8. 其他: zookeeper,chubby

  9. 文档存储: mongoDB, CouchDB

大数据:注重海量数据存储与处理,基本处于PaaS ,平台即服务

云计算:侧重于硬件资源虚拟化,基本处于LaaS ,基础设施即服务

不过现在的阿里云,亚马逊云等公有云,以及不单单是卖虚拟化的计算资源了,也会涉及到大数据,图像识别,数据库,云安全等,所以现在的云计算已经涵盖了laaS,PaaS,SaaS等方方面面。

除了按照这种技术栈来区分之外,有时候还会按照数据的实时处理程度分为: 批量计算和实时在线技术。

批量计算就是我们常说的离线计算。一次性处理大量数据,吞吐量大,但延时较高。适合数据ETL等场景。

大数据的适用场景

最近跟一家公司对接,他们做的就是大数据的河海农业数据分析。比如展示某一个地区的2010-2020年,10年的降水量。

最近炒得比较火的是交通大数据,实时采集交通信号灯,二氧化碳传感器,汽车位置和速度传感器,以及来自网上的社交媒体的数据,来进行分析。 帮助乘客重新规划路线,节省时间。

金融行业的智慧金融,可以分析客户的数据,来给用户精准提供贷款或者推荐商品。

人工智能,最火的例子就是google的AlphaGo, 人工智能可以进行自主学习,不断完善。 当然除了下棋,还有人脸识别,语音识别,机器翻译,无人驾驶,智能机器人等领域都有很大的威力。

大数据小故事

某比萨店的电话铃响了,客服人员拿起电话。

客服:XXX比萨店。您好,请问有什么需要我为您服务 ?

顾客:你好,我想要一份披萨

客服:先生,烦请先把您的会员卡号告诉我。

顾客:16846146***。

客服:陈先生,您好!您是住在泉州路一号12楼1205室,您家电话是2646****,您公司电话是4666****,您的手机是1391234****。请问您想用哪一个电话付费?

顾客:你为什么知道我所有的电话号码?

客服:陈先生,因为我们联机到CRM系统。

顾客:我想要一个海鲜比萨……

最后

Python崛起并且风靡,因为优点多、应用领域广、被大牛们认可。学习 Python 门槛很低,但它的晋级路线很多,通过它你能进入机器学习、数据挖掘、大数据,CS等更加高级的领域。Python可以做网络应用,可以做科学计算,数据分析,可以做网络爬虫,可以做机器学习、自然语言处理、可以写游戏、可以做桌面应用…Python可以做的很多,你需要学好基础,再选择明确的方向。这里给大家分享一份全套的 Python 学习资料,给那些想学习 Python 的小伙伴们一点帮助!

👉Python所有方向的学习路线👈

Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。

【大数据】大数据运维学习前必须知道的几个常识(1),附架构师必备技术详解,2024年程序员学习,大数据,运维,学习

👉Python必备开发工具👈

工欲善其事必先利其器。学习Python常用的开发软件都在这里了,给大家节省了很多时间。

【大数据】大数据运维学习前必须知道的几个常识(1),附架构师必备技术详解,2024年程序员学习,大数据,运维,学习

👉Python全套学习视频👈

我们在看视频学习的时候,不能光动眼动脑不动手,比较科学的学习方法是在理解之后运用它们,这时候练手项目就很适合了。

【大数据】大数据运维学习前必须知道的几个常识(1),附架构师必备技术详解,2024年程序员学习,大数据,运维,学习

👉实战案例👈

学python就与学数学一样,是不能只看书不做题的,直接看步骤和答案会让人误以为自己全都掌握了,但是碰到生题的时候还是会一筹莫展。

因此在学习python的过程中一定要记得多动手写代码,教程只需要看一两遍即可。

【大数据】大数据运维学习前必须知道的几个常识(1),附架构师必备技术详解,2024年程序员学习,大数据,运维,学习

👉大厂面试真题👈

我们学习Python必然是为了找到高薪的工作,下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料,并且有阿里大佬给出了权威的解答,刷完这一套面试资料相信大家都能找到满意的工作。

【大数据】大数据运维学习前必须知道的几个常识(1),附架构师必备技术详解,2024年程序员学习,大数据,运维,学习

小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。

深知大多数初中级Python工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年Python爬虫全套学习资料》送给大家,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。

由于文件比较大,这里只是将部分目录截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频

如果你觉得这些内容对你有帮助,可以添加下面V无偿领取!(备注:python)
【大数据】大数据运维学习前必须知道的几个常识(1),附架构师必备技术详解,2024年程序员学习,大数据,运维,学习

升又不知道该从何学起的朋友,同时减轻大家的负担。**

由于文件比较大,这里只是将部分目录截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频

如果你觉得这些内容对你有帮助,可以添加下面V无偿领取!(备注:python)
[外链图片转存中…(img-aEgQy4GV-1711207136226)]文章来源地址https://www.toymoban.com/news/detail-851916.html

到了这里,关于【大数据】大数据运维学习前必须知道的几个常识(1),附架构师必备技术详解的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Go数据结构----你必须知道的一些

    算法(英文 algorithm )这个词在中文里面博大精深,表示算账的方法,也可以表示运筹帷幄的计谋等。在计算机科技里,它表示什么呢? 计算机,顾名思义是用来计算的机器。算法在计算机科学中可以描述为:计算机接收一个输入指令,然后进行一个过程处理,最后输出计算

    2024年02月03日
    浏览(40)
  • 【网络安全入门】学习网络安全必须知道的100 个网络基础知识

    什么是链接? 链接是指两个设备之间的连接。它包括用于一个设备能够与另一个设备通信的电缆类型和协议。 2 OSI 参考模型的层次是什么? 有 7 个 OSI 层:物理层,数据链路层,网络层,传输层,会话层,表示层和应用层。 3 什么是骨干网? 骨干网络是集中的基础设施,旨在将

    2024年02月08日
    浏览(44)
  • 人工智能任务4-读懂YOLOv5模型的几个灵魂拷问问题,深度理解 YOLOv5模型架构

    大家好,我是微学AI,今天给大家介绍一下人工智能任务4-读懂YOLOv5模型的几个灵魂拷问问题,深度理解 YOLOv5模型架构。YOLOv5是一种高效且精确的目标检测模型,由ultralytics团队开发。它采用了轻量级的网络结构,能够在保持高性能的同时降低计算复杂度。模型由三个主要部分

    2024年01月16日
    浏览(39)
  • Docker学习之前需要了解的几个概念

    1.1. 命名空间(Namespaces) 命名空间是Linux内核提供的资源隔离机制,它通过创建多个独立的 全局视图 ,使得在不同命名空间中的进程可以拥有各自独立且互不干扰的系统资源。每个命名空间提供了一种逻辑上的隔离效果,让进程看到的是一个受限或定制化的环境,而非整个

    2024年01月23日
    浏览(52)
  • 会Python如何学习C#的几个关键点

    Python和C#都是常用的编程语言,但两者之间存在一些重要的区别。如果你已经掌握了Python并希望学习C#,以下是几个关键点: 面向对象编程(OOP):C#是一种严格的面向对象编程语言,而Python则具有更灵活的OOP实现。在学习C#之前,建议先理解面向对象编程的基础概念,如类、

    2023年04月12日
    浏览(31)
  • 会C#如何学习Python的几个关键点

    首先要了解Python的语法和基本知识,可以阅读Python官方文档或者一些Python教程。如果你想系统学习Python,可以选择一些经典的Python书籍,如《Python基础教程》等。 熟悉Python的编程环境,选择一个适合自己的Python集成开发环境(IDE)或者编辑器。比较流行的Python IDE有PyCharm、

    2023年04月08日
    浏览(33)
  • c++ 计算心率数据的几个算法

    其他可参考我写的go语言的算法计算,包含了http服务 go语言计算心率算法 //hrv 5 min RR 间期 平均值标准差 sdann // 24h 正常的RR间期总体标准差 sdnn // 24h 每5分钟时段 标准差的平均值 sdnn index // 两个相邻RR间期 差值的均方根RMSSD // 24h 相邻两个正常RR 间期差值 大于50ms 的个数百分比

    2024年02月16日
    浏览(34)
  • Hive数据清洗中常见的几个函数

    在Hive中,数据清洗是一个重要的任务之一,通常涉及到对数据进行过滤、修改和转换等操作,以使其更易于使用和分析。常用的数据清洗技术包括:数据去重、空值填充、数据格式化、数据类型转换、数据分区等。这里简单记录几个常用的数据清洗函数,后期会继续增加。

    2024年02月06日
    浏览(44)
  • 使用Linux运维常识

    快捷键 描述 ctrl+键盘左键 向左跳一个单词 ctrl+键盘右键 向右跳一个单词 Ctrl + c 停止当前正在运行的命令。 Ctrl + z 将当前正在运行的命令放入后台并暂停它的进程。 Ctrl + d 关闭当前终端会话。 Ctrl + l 清屏,也可以用clear命令实现 Tab 自动补全当前输入的命令或文件名。 Ctr

    2024年02月01日
    浏览(46)
  • 程序员不得不知道的 API 接口常识

    1、初识 API 接口 记得在我初学 web 开发的时候,后端框架相关的教程基本都会教学生写渲染模版(不分语言),也就是说后端返回的是整个网页的数据,浏览器只负责渲染。 一般这类模版在后端都会对应一个路由,比如前端想登入一个看用户信息的页面,在 url 中输入的访问

    2024年02月01日
    浏览(41)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包