熟悉常用的 Linux 操作和 Hadoop 操作

这篇具有很好参考价值的文章主要介绍了熟悉常用的 Linux 操作和 Hadoop 操作。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。


前言

Hadoop 运行在 Linux 系统上,因此,需要学习实践一些常用的 Linux 命令。本实验旨在熟悉常用的 Linux 操作和 Hadoop 操作,为顺利开展后续其他实验奠定基础。
环境:
1、阿里云服务器 Ubuntu18.0.4
2、Hadoop 3.1.3
3、JDK 1.8


一、常用命令集合

1、cd命令:切换目录

1、切换到目录/usr/local

cd /usr/local

2、切换回上级目录

cd …

3、切换到当前登录Linux系统的用户的自己的文件夹

cd ~

2、ls命令:查看文件与目录

  • 查看当前目录下的所有文件与目录

ls -al

3、mkdir命令:创建目录

  • 创建单个目录:
 mkdir a
  • 创建多个目录:
 mkdir -p a1/a2/a3/a4

4、rmdir命令:删除空的目录

  • 删除单个目录:

rmdir a

  • 删除多个目录:
 rmdir -p a1/a2/a3/a4

5、cp 命令:复制文件或目录

  • 将当前用户的主文件夹下的文件.bashrc 复制到目录“/usr”下,并重命名为 bashrc1:
 sudo cp ~/.bashrc /usr/bashrc1
  • 在目录“/tmp”下新建目录 test,再把这个目录复制到“/usr”目录下:
cd /tmp
mkdir test
sudo cp -r /tmp/test /usr

6、mv 命令:移动文件与目录,或更名

  • 将“/usr”目录下的文件 bashrc1 移动到“/usr/test”目录下:
 sudo mv /usr/bashrc1 /usr/test
  • 将“/usr”目录下的 test 目录重命名为 test2:
 sudo mv /usr/test /usr/test2

7、rm 命令:移除文件或目录

  • 将“/usr/test2”目录下的 bashrc1 文件删除:
 sudo rm /usr/test2/bashrc1
  • 将“/usr”目录下的 test2 目录删除:
 sudo rm -r /usr/test2

8、cat 命令:查看文件内容

  • 查看当前用户主文件夹下的.bashrc 文件内容:
cat ~/.bashrc

9、tac 命令:反向查看文件内容

  • 反向查看当前用户主文件夹下的.bashrc 文件的内容:
 tac ~/.bashrc

10、more 命令:一页一页翻动查看

  • 翻页查看当前用户主文件夹下的.bashrc 文件的内容:
 more ~/.bashrc

11、head 命令:取出前面几行

  • 1、查看当前用户主文件夹下.bashrc 文件内容前 20 行:
 head -n 20 ~/.bashrc
  • 2、查看当前用户主文件夹下.bashrc 文件内容,后面 50 行不显示,只显示前面几行
 head -n -50 ~/.bashrc

12、tail 命令:取出后面几行

  • 1、查看当前用户主文件夹下.bashrc 文件内容最后 20 行:
tail -n 20 ~/.bashrc
  • 2、查看当前用户主文件夹下.bashrc 文件内容,并且只列出 50 行以后的数据:
 tail -n +50 ~/.bashrc

13、touch 命令:修改文件时间或创建新文件

  • 1、在“/tmp”目录下创建一个空文件 hello,并查看文件时间:
cd /tmp
touch hello
ls -l hello
  • 2、修改 hello 文件,将文件时间整为 5 天前:
 touch -d “5 days ago” hello

14、chown 命令:修改文件所有者权限

  • 将 hello 文件所有者改为 root 帐号,并查看属性:
 sudo chown root /tmp/hello
 ls -l /tmp/hello

15、find 命令:文件查找

  • 找出主文件夹下文件名为.bashrc 的文件:
 find ~ -name .bashrc

16、tar 命令:压缩命令

  • 1、在根目录“/”下新建文件夹 test,然后在根目录“/”下打包成 test.tar.gz:
sudo mkdir /test
sudo tar -zcv -f /test.tar.gz test
  • 2、把上面的 test.tar.gz 压缩包,解压缩到“/tmp”目录:
sudo tar -zxv -f /test.tar.gz -C /tmp

17、grep 命令:查找字符串

  • 从“~/.bashrc”文件中查找字符串’examples’:
 grep -n 'examples' ~/.bashrc

18、配置环境变量

  • 1、首先,使用 vim 编辑器打开文件“~/.bashrc”,命令如下:
 vim ~/.bashrc
  • 2、然后,在该文件的最上面加入一行如下形式的语句:
export JAVA_HOME=JDK 安装路径
  • 3、最后,执行如下命令使得环境变量配置生效:
source ~/.bashrc
  • 4、查看 JAVA_HOME 变量的值:
echo $JAVA_HOME

二、常用的 Hadoop 操作

1.启动 Hadoop,为 hadoop 用户在 HDFS 中创建用户目录/user/hadoop

 cd /usr/local/hadoop
 ./sbin/start-dfs.sh
 ./bin/hdfs dfs -mkdir -p /user/hadoop

熟悉常用的linux操作和hadoop操作,大数据,linux,hadoop,运维

2、接着在 HDFS 的目录/user/hadoop下,创建 test 文件夹,并查看文件列表

 cd /usr/local/hadoop
 ./bin/hdfs dfs -mkdir test
 ./bin/hdfs dfs -ls

熟悉常用的linux操作和hadoop操作,大数据,linux,hadoop,运维

3、将 Linux 系统本地的“~/.bashrc”文件上传到 HDFS 的 test 文件夹中,并查看 test

cd /usr/local/hadoop
./bin/hdfs dfs -put ~/.bashrc test
./bin/hdfs dfs -ls test

熟悉常用的linux操作和hadoop操作,大数据,linux,hadoop,运维

4、将 HDFS 文件夹 test 复制到 Linux 系统本地文件系统的/usr/local/hadoop目录下

cd /usr/local/hadoop
./bin/hdfs dfs -get test ./

熟悉常用的linux操作和hadoop操作,大数据,linux,hadoop,运维


三、总结

实验内容主要就是熟悉linux命令以及hadoop的一些基本操作,实验内容已全部完成。出现的重大问题就是在启动hadoop过后使用jps查看各个名称节点时,未显示,尝试了许多方法也无法解决,后面猜想可能是jdk和hadoop以及ubuntu等的版本不互相匹配造成,后来跟着林子雨老师的慕课重新装了一边才成功。

四、参考资料

https://www.icourse163.org/learn/XMU-1002335004?tid=1469834441#/learn/announce文章来源地址https://www.toymoban.com/news/detail-783869.html

到了这里,关于熟悉常用的 Linux 操作和 Hadoop 操作的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 大数据平台组件日常运维操作说明(Hadoop/Zookeeper/Kafa/ES/Mysql/Spark/Flume/Logstash/Tomcat)

    hdfs 生产环境hadoop为30台服务器组成的集群,统一安装配置,版本号为2.7.7 部署路径:/opt/hadoop 启动用户:hadoop 配置文件: /opt/hadoop/config/hdfs-site.xml /opt/hadoop/config/core-site.xml hadoopy运行环境变量配置文件: hadoop-env.sh journalnode.env datanode.env namenode.env hadoop系统服务配置文件: z

    2024年02月03日
    浏览(49)
  • [Hadoop]大数据导论与Linux基础

    目录 大数据导论 企业数据分析方向 数据分析基本步骤 大数据时代 分布式与集群 Linux操作系统概述 操作系统概念与分类 Linux起源与发展 Linux内核与发行版本 VMware Workstation虚拟机使用 VMware虚拟机概念 VMware虚拟机常规使用 Linux常用基础命令 Linux文件系统基础知识 Linux常用操作

    2024年02月05日
    浏览(52)
  • Hadoop -HDFS常用操作指令

    path 指定目录路径 -h 人性化显示文件size -R 递归查看指定目录及其子目录 -f 覆盖目标文件(已存在下) -p 保留访问和修改时间,所有权和权限。 localsrc 本地文件系统(客户端所在机器 ) dst 目标文件系统(HDFS) 下载文件到本地文件系统指定目录,localdst必须是目录 -f 覆盖目

    2024年02月10日
    浏览(43)
  • 云计算技术 实验三 安装Hadoop系统并熟悉hadoop命令

    参考资料为: 教材代码-林子雨编著《大数据基础编程、实验和案例教程(第2版)》教材所有章节代码_厦大数据库实验室博客 1 . 实验学时 4学时 2 . 实验目的 熟悉Hadoop系统的安装 掌握Hadoop系统的两种安装方式 掌握Hadoop系统的基本命令 3 . 实验内容 安装虚拟机和Linux环境。

    2024年02月07日
    浏览(41)
  • Hadoop HDFS shell 命令行常用操作

    前言:Hadoop HDFS shell的命令和Linux的shell命令有类似的地方,基本上会使用Linux命令的话,把HDFS的理论理解一下就可以了。 一、创建文件夹  path为待创建的目录  -p选项的行为与unix mkdir -p类似,他会沿着路经创建父目录 二、查看指定目录下的内容  Path指定目录路径 -h人性化显

    2024年02月04日
    浏览(49)
  • 【Hadoop-HDFS】HDFS常用操作命令

    hadoop fs -ls / 普通创建: hadoop fs -mkdir /xiaolin 递归创建: hadoop fs -mkdir -p /xiaolin/xiaoyin mkdir xuan.txt hadoop fs -moveFromLocal xuan.txt /xiaolin hadoop fs -copyFromLocal xuan.txt / hadoop fs -put xuan.txt / 文件名称相同时覆盖hdfs上的文件: -f hadoop fs -put -f xuan.txt / hadoop fs -copyToLocal /xiaolin ./ hadoop fs -get

    2024年02月05日
    浏览(52)
  • Linux CentOS下大数据环境搭建(zookeeper+hadoop+hbase+spark+scala)

    本篇文章是结合我个人学习经历所写,如果遇到什么问题或者我有什么错误,欢迎讨论。 百度网盘链接:https://pan.baidu.com/s/1DCkQQVYqYHYtPws9hWGpgw?pwd=zh1y 提取码:zh1y 软件在连接中VMwareWorkstation_V16.2.1_XiTongZhiJia的文件夹下。 双击运行安装包,这里下一步即可。 这里勾选我接受许可

    2024年04月15日
    浏览(69)
  • 简历上写熟悉Linux下常用命令?直接寄

                     大家写简历技术栈时,都觉得越多越好,其中一条,熟悉Linux下常用命令?其实开发中Linux不是必备考点,除了运维,真正用的多的仅仅cd ls mkdir等,但当面试官问到上面命令时,是不是就傻眼了。         面试中最忌讳的就是简历上写了,但答不出来

    2024年04月15日
    浏览(35)
  • 大数据编程实验二:熟悉常用的HDFS操作

    实验目的 1、理解HDFS在Hadoop体系结构中的角色 2、熟悉使用HDFS操作常用的Shell命令 3、熟悉HDFS操作常用的Java API 实验平台 1、操作系统:Windows 2、Hadoop版本:3.1.3 3、JDK版本:1.8 4、Java IDE:IDEA 前期:一定要先启动hadoop   1、编程实现以下功能,并利用Hadoop提供的Shell命令完成相

    2024年02月08日
    浏览(45)
  • 大数据平台运维(hadoop入门(保姆篇))----概述及基本环境配置(HA-1)

    2022.12.4  大数据运维基础篇 本章主要是基础坏境配置 目录 前言  一、hadoop是什么? 1.1 Hadoop 是什么 1.2 Hadoop 优势 1.3 Hadoop 组成  二、大数据技术体系                   2.1 HDFS 架构概述Hadoop Distributed File System,简称HDFS,是一个分布式文件系统。 2.2 YARN 架构概述 2.3 MapRed

    2024年02月08日
    浏览(50)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包