大数据环境准备与配置说明文档

这篇具有很好参考价值的文章主要介绍了大数据环境准备与配置说明文档。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

大家好,我是邵奈一,一个不务正业的程序猿、正儿八经的斜杠青年。
1、世人称我为:被代码耽误的诗人、没天赋的书法家、五音不全的歌手、专业跑龙套演员、不合格的运动员…
2、这几年,我整理了很多IT技术相关的教程给大家,爱生活、爱分享。
3、如果您觉得文章有用,请收藏,转发,评论,并关注我,谢谢!
博客导航跳转(请收藏):邵奈一的技术博客导航
| 公众号 | 微信 | CSDN | 掘金 | 51CTO | 简书 | 微博 |

一、关键实操操作

  1. 打开提供的虚拟机

(遇到问题见: 虚拟机-常见问题总结.doc

提示:如果没有获得虚拟机与文档,请call me获取。
job虚拟机(IP地址: 192.168.128.250

用户名:root
密码:hadoop
  1. ping通baidu.com(配置网络)

图1:右击job虚拟机,点击“设置”,设置成NAT网络
大数据环境准备与配置说明文档,大数据,安装与配置,虚拟机,Linux,大数据

图2:点击左上角的“编辑”,选择“虚拟网络编辑器”,设置VMnet8的子网地址为128网段
大数据环境准备与配置说明文档,大数据,安装与配置,虚拟机,Linux,大数据

图3:设置Win上VMnet8属性配置,添加DNS服务器地址
大数据环境准备与配置说明文档,大数据,安装与配置,虚拟机,Linux,大数据

ping 百度步骤:登录job虚拟机后,直接输入:

ping baidu.com

大数据环境准备与配置说明文档,大数据,安装与配置,虚拟机,Linux,大数据

  1. 使用MobaXterm远程连接上job虚拟机
    输入ip地址,回车之后输入job虚拟机的密码即可。
  2. 启动HDFS
start-dfs.sh

PS:停止 stop-dfs.sh

查看进程:jps

查看HDFS的WebUI页面:

192.168.128.250:9870

大数据环境准备与配置说明文档,大数据,安装与配置,虚拟机,Linux,大数据

  1. 使用Shell命令查看HDFS根路径下的目录列表
hdfs dfs -ls /
  1. 常用Shell命令实操

操作1:新建一个HDFS目录(目录路径为根路径,目录名称为aaa)

hdfs dfs -mkdir /aaa

操作2:新建一个本地文本文件hello.txt,内容为:

hello,world

大数据环境准备与配置说明文档,大数据,安装与配置,虚拟机,Linux,大数据

vim编辑步骤:输入i进入编辑模式,然后输入hello,world,然后按ESC退出编辑模式,接着按冒号,再按wq(:wq),最后按回车。

PS:如果没有Linux基础,需要学习一下vi/vim编辑器。参考教程:

操作3:上传 hello.txt 文件到HDFS集群的 /aaa 路径

hdfs dfs -put hello.txt /aaa

大数据环境准备与配置说明文档,大数据,安装与配置,虚拟机,Linux,大数据

操作4:查看HDFS集群的hello.txt文件的内容

hdfs dfs -cat /aaa/hello.txt

大数据环境准备与配置说明文档,大数据,安装与配置,虚拟机,Linux,大数据

操作5:下载HDFS集群的/aaa路径的hello.txt文件到job虚拟机本地的/opt路径

hdfs dfs -get /aaa/hello.txt /opt

大数据环境准备与配置说明文档,大数据,安装与配置,虚拟机,Linux,大数据

操作6:删除HDFS集群上的/aaa/hello.txt文件

hdfs dfs -rm /aaa/hello.txt

大数据环境准备与配置说明文档,大数据,安装与配置,虚拟机,Linux,大数据

提示:命令是“hdfs dfs -”开头

二、提供的虚拟机做了哪些操作?

提示:如果没有获得,请call me获取。

  1. 安装JDK(解压+配置环境变量)
  2. 配置域名映射(当然,主机名也已经改成了master)
  3. 配置免密码登录
  4. 解压Hadoop安装包(包含了HDFS、YARN、MapReduce)
  5. 配置Hadoop的配置文件(包含了HDFS、YARN、MapReduce的配置文件),并且配置了环境变量
    PS:环境变量主要是追加两个路径(bin和sbin)
    bin=>hdfs
    sbin=>start-dfs.sh、stop-dfs.sh等
  6. 格式化HDFS
  7. 安装好了MySQL
用户名:root
密码:123456

8.安装好了Hive

三、虚拟机说明与配置

  1. job虚拟机设置

如果自己本身电脑的内存就只有4个G,可以尝试调小内存,比如调小到2G:

大数据环境准备与配置说明文档,大数据,安装与配置,虚拟机,Linux,大数据

移除USB、声卡、打印机。

2.集群环境设置

如果电脑是8G=>1.5G、1G、1G
如果电脑是16G=>3G、2G、2G
平时可以选择用1台或者3台、4台。

装虚拟机尽量不要装 桌面版文章来源地址https://www.toymoban.com/news/detail-834871.html

到了这里,关于大数据环境准备与配置说明文档的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 使用VSCode开发 Python虚拟环境配置说明

    这里给大家介绍下怎么配置VSCode的环境来开发Python。 介绍: VSCode是一款由Microsoft开发的免费、开源的代码编辑器。它具有许多优势,使其成为许多开发者喜爱的工具之一。以下是一些VSCode的主要优势: 轻量且快速启动: VSCode是一款轻量级的编辑器,启动速度很快,使开发者

    2024年01月23日
    浏览(57)
  • 【Linux前篇 】VMWare虚拟机安装与环境配置及远程连接 —— windows版

    目录 一、操作系统 1.1 什么是操作系统 1.2 常见操作系统 1.3 个人版本和服务器版本的区别 1.4 Linux的各个版本  二、VMWare 虚拟机安装配置流程 2.1 安装 2.2 配置虚拟网络编辑器 三、安装配置 Windows Server 2012 R2 3.1 创建虚拟机  3.2 安装 Windows Server 2012的镜像  四、 虚拟机的环境

    2024年02月08日
    浏览(40)
  • vm安装,虚拟环境搭建win+linux+mac,及本机连接虚拟环境数据库、windows服务器搭建、内网穿透

    教程中的软件、镜像、工具可去阿里云盘提取: 阿里云盘:https://www.aliyundrive.com/s/CLdTjFtnYbr 提取码:s1a8 一、安装虚拟机 下载链接:https://www.vmware.com/products/workstation-pro.html 下载的过程中可能需要注册登录 下载vm 后双击安装即可 vm安装成功后,需要激活 二、安装windows虚拟机

    2024年02月08日
    浏览(72)
  • StableDiffusion-webUI环境配置、部署、汉化、扩展超详细步骤 || 服务器Linux Ubuntu/本地Windows || 比官方安装更高自定义度 || anaconda虚拟环境下

    目录 一、代码下载 以下指令用git下载代码(可能不能直接跑通,后续需要修改一些代码,见“ 四、代码修改”部分) 1. 下载 stable-diffusion-webui 仓库 2. 下载其他仓库 二、环境配置 0. 安装anaconda、CUDA、cuDNN 1. 建立并激活新 conda 环境 2. 安装 requirements.txt 中的依赖包 3

    2024年02月10日
    浏览(82)
  • Ubuntu基础配置+Docker配置和使用+容器化centos7大数据环境准备

    环境:ubuntu 18.04 大数据技术与应用赛项平台环境 安装完Ubuntu之后,除了需要新建用户、设置密码之外,我们还要设置root密码,虽然Ubuntu默认有root超级管理员账户,但是具体的密码我们可以自行设置 1.1设置root密码: 1.启动Ubuntu 启动Ubuntu,有图形界面的,启动终端即可 2.终端

    2024年01月17日
    浏览(48)
  • 【YOLO】YOLOv8实操:环境配置/自定义数据集准备/模型训练/预测

    源码链接:https://github.com/ultralytics/ultralytics yolov8和yolov5是同一作者,相比yolov5,yolov8的集成性更好了,更加面向用户了 YOLO命令行界面(command line interface, CLI) 方便在各种任务和版本上训练、验证或推断模型。CLI不需要定制或代码,可以使用yolo命令从终端运行所有任务。 如果

    2023年04月24日
    浏览(58)
  • 3. Linux的虚拟环境配置(Anaconda)

    这个专栏记录我学习/科研过程中遇到的一些小问题以及解决方案,一些问题可能比较蠢请见谅。自用,仅供参考。 ------------------------------------------------------------------------------------ 这篇博客的目标:在Linux服务器上,从安装Anaconda开始,再到安装需要使用的包,直到可以使用

    2024年02月06日
    浏览(43)
  • Visual Studio+MASM32写汇编程序——安装和环境配置说明

    写在前面: 如果你之前使用的是Visual Studio 2022(其他版本不清楚,如果是2017版本应该也是行的,如果有uu成功,也可以分享自己的经验),那么建议你立即卸载重新安装(血泪教训,网上能找到的教程基本上都不能解决问题)。 2022版本可能会出现的问题: MSB3721 命令“ml6

    2024年01月18日
    浏览(34)
  • Mac 安装anaconda并配置虚拟环境

    背景,学习人工智能使用python, 创建虚拟环境等等,使用pip命令安装依赖的时候各种报错,问题很多,在网上查找解决办法的时候,看到有使用anaconda进行虚拟环境创建和安装的方式,很方便,所以选择使用这种方式。 首先使用浏览器访问 anaconda的官网:https://www.anaconda.co

    2024年02月02日
    浏览(56)
  • Linux学习环境搭建(VMware虚拟机安装Linux)

    目前绝大多数企业运维人员的工作环境都是Windows下通过SSH工具(如XShell等)远程连接千百里外的服务器进行管理和维护的。 而且学Linux运维,99.9%知识与硬件无关,用虚拟机足矣。 08年以前没有虚拟化概念。买服务器,放机房。 ---- 类似点蜡烛 现在80%中小企业没有真实服务器

    2024年02月14日
    浏览(40)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包