【头歌】Sqoop的安装与配置 - 详解

这篇具有很好参考价值的文章主要介绍了【头歌】Sqoop的安装与配置 - 详解。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

【提示】点击每一关参考答案可以快速复制。

目录

第1关:Sqoop的安装与配置

任务描述

相关知识

编程要求

测试说明

参考答案


第1关:Sqoop的安装与配置

任务描述

本关任务:安装并配置 Sqoop ,用 Sqoop 查看 Mysql 中的数据库。

相关知识

为了完成本关任务,你需要掌握: 1、Sqoop基本安装。 2、Sqoop配置。

注意:本关实训Sqoop的安装与配置建立在HadoopHiveMySQL已安装配置好的情况下。 可以参考Hive、MySQL安装。

Sqoop基本安装

你可以在此网址下载最新的 Sqoop ——Sqoop下载,这里已经帮你下载好了,放在/opt目录下。

【头歌】Sqoop的安装与配置 - 详解

  • 接下来我们进入/opt目录内,解压sqoop的安装包到/app目录下,并将解压好的安装包重命名为sqoop。 依次输入以下命令:

mkdir /app
cd /opt
tar -zxvf sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz -C /app
cd /app
mv sqoop-1.4.7.bin__hadoop-2.6.0/ sqoop
  • 设置环境变量,输入vi /etc/profile,在末尾添加以下两行代码;

export SQOOP_HOME=/app/sqoop
export PATH=$PATH:$SQOOP_HOME/bin
  • 最后输入source /etc/profile使环境生效。

Sqoop配置

/app/sqoop/conf 下面的sqoop-env-template.sh文件改名为sqoop-env.sh

cd /app/sqoop/conf

mv sqoop-env-template.sh sqoop-env.sh

vi sqoop-env.sh配置hadoophivehbase环境变量。

export HADOOP_COMMON_HOME=/usr/local/hadoop
export HADOOP_MAPRED_HOME=/usr/local/hadoop
export HIVE_HOME=/hive-2.3.2

查看sqoop版本号——sqoop version

【头歌】Sqoop的安装与配置 - 详解

图片那么多的 Warning 信息是配置 HbaseAccumulo 的环境变量。对操作没有太多的影响。 查看sqoop帮助——sqoop help

Sqoop 需要对接 MySQL 数据库,所以需要添加对应的JDBC驱动包(mysql-connector-java-5.1.45.tar.gz),用于数据库连接,这里的驱动包已经放在了/opt中。

【头歌】Sqoop的安装与配置 - 详解

cd /opt

tar -zxvf mysql-connector-java-5.1.45.tar.gz

cp mysql-connector-java-5.1.45/mysql-connector-java-5.1.45-bin.jar /app/sqoop/lib/

至此Sqoop配置完成。 最后我们用安装好的 Sqoop 查看 MySQL 内的数据库。(这里和编程要求同,详见参考答案)

sqoop list-databases -connect jdbc:mysql://localhost:3306/ --username root --password 123123

【头歌】Sqoop的安装与配置 - 详解

编程要求

根据上述步骤安装配置好Sqoop,并连接数据库成功,成功后将信息存入/app/log.txt

注意:我们存入信息使用>,表示每次都会新生成一个 > 后面的文件,将之前生成的文件替换掉(文件创建时间也会跟着改变)。

测试说明

若安装配置成功,则程序会输出:

sqoop-env.sh解压路径正确!
information_schema
mysql
performance_schema

参考答案

#命令行


#解压sqoop的安装包到/app目录下
mkdir /app
cd /opt
tar -zxvf sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz -C /app
cd /app
mv sqoop-1.4.7.bin__hadoop-2.6.0/ sqoop

#进入vi编辑器
vi /etc/profile
#以下为在vi编辑器中需要输入的内容。
#使用提示:【i】键进入插入模式,鼠标滚轮可以快速上下滑动光标,执行对应插入操作,最后【Esc】键退出vi插入模式,输入“:wq”保存并退出vi编辑器。
#使用提示:PageUp(PgUp)、PageDown(PgDn)键快速定位光标到文件开始位置和结束位置,Home、End键快速定位光标到当前行的行首和行末。


#粘贴以下内容到末尾
export SQOOP_HOME=/app/sqoop
export PATH=$PATH:$SQOOP_HOME/bin
#命令行


#使环境生效
source /etc/profile

#将/app/sqoop/conf 下面的sqoop-env-template.sh文件改名为sqoop-env.sh
cd /app/sqoop/conf
mv sqoop-env-template.sh sqoop-env.sh

#vi sqoop-env.sh配置hadoop、hive、hbase环境变量
vi sqoop-env.sh
#以下为在vi编辑器中需要输入的内容。
#使用提示:【i】键进入插入模式,鼠标滚轮可以快速上下滑动光标,执行对应插入操作,最后【Esc】键退出vi插入模式,输入“:wq”保存并退出vi编辑器。
#使用提示:PageUp(PgUp)、PageDown(PgDn)键快速定位光标到文件开始位置和结束位置,Home、End键快速定位光标到当前行的行首和行末。


#为了保持文件的可读性,请将修改对应行的注释为以下内容,不要直接粘贴
export HADOOP_COMMON_HOME=/usr/local/hadoop
export HADOOP_MAPRED_HOME=/usr/local/hadoop
export HIVE_HOME=/hive-2.3.2
#命令行


#查看sqoop版本号
sqoop version

#查看sqoop帮助
sqoop help

#查看驱动包是否在/opt中
cd ~
ls /opt

#添加对应的JDBC驱动包
cd /opt
tar -zxvf mysql-connector-java-5.1.45.tar.gz
cp mysql-connector-java-5.1.45/mysql-connector-java-5.1.45-bin.jar /app/sqoop/lib/

#用安装好的 Sqoop 查看 MySQL 内的数据库
sqoop list-databases -connect jdbc:mysql://localhost:3306/ --username root --password 123123 > /app/log.txt

至此,所有内容都完成辣。如果存在任何问题欢迎大佬指教🥰!文章来源地址https://www.toymoban.com/news/detail-479475.html

到了这里,关于【头歌】Sqoop的安装与配置 - 详解的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Sqoop安装配置

    https://archive.apache.org/dist/sqoop/1.4.7/sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz 注意:sqoop安装包的选择,要选择安装包中含有 bin 字符的安装包,否则运行会报错:缺少文件! 使用Xshell工具的xftp插件上传sqoop安装包到 usr/local/ 在 Sqoop 安装目录的 conf 子目录下,系统已经提供了一个环境变量文

    2024年02月10日
    浏览(51)
  • [Sqoop 安装配置]

    目录 🍗前言: 🍗 下载地址: 🍗首先需要有Java环境,确定是否安装Java和Hadoop 🍗压缩包解压指令: #重命名sqoop目录[root@hadoop01 local]#mv sqoop-1.4.7 sqoop  修改文件名称 🍗配置环境变量:  🍗刷新生效文件  🍗配置Sqoop  🍗修改sqoop-env.sh配置文件中的参数: 🍗在命令行中输入Sqo

    2024年02月10日
    浏览(46)
  • Sqoop 安装配置(超详细)

    集群其它生态安装与配置: Hadoop 完全分布式搭建(超详细) Hive 搭建(将 MySQL 作为元数据库) Spark 集群搭建(多种方式) Hudi 0.12.0 搭建——集成 Hive3.1 与 Spark3.2 Sqoop 安装包下载地址:Sqoop 官网 选择自己集群合适的版本。 改个名称: 保存退出,使环境变量立即生效 sourc

    2023年04月12日
    浏览(32)
  • Sqoop和Flume简单安装配置使用详细解答

    了解Sqoop和Flume工具的安装、配置和基本使用方法。Sqoop用于结构化数据和Hadoop之间的批量数据迁移,Flume用于日志数据的收集、聚合和移动。包括安装步骤、配置环境变量、命令示例等内容。

    2024年02月08日
    浏览(43)
  • 头歌—Hive的安装与配置

    在修改 conf 下面的 hive-site.xml 文件这里,题目给的信息是错误的,正确的内容如下:

    2024年04月16日
    浏览(28)
  • Sqoop详解

    目录 一、sqoop基本原理 1.1、何为Sqoop? 1.2、为什么需要用Sqoop? 1.3、关系图  1.4、架构图 二、Sqoop可用命令 2.1、公用参数:数据库连接 2.2、公用参数:import 2.3、公用参数:export  2.4、公用参数:hive 2.3、其他命令 三、Sqoop常用命令 3.1、RDBMS = HDFS (导入重点) 3.1.1、全表导入

    2024年01月18日
    浏览(38)
  • 头歌Hadoop 开发环境搭建及HDFS初体验(第2关:配置开发环境 - Hadoop安装与伪分布式集群搭建)

    注: 1 头歌《Hadoop 开发环境搭建及HDFS初体验》三关在一个实验环境下,需要三关从前往后按顺序评测,跳关或者实验环境结束后重新打开 不能单独评测通过 2 复制粘贴请用右键粘贴,CTRL+C/V不管用哦~ 第1关:配置开发环境 - JavaJDK的配置: 解压: 配置环境变量: 细节: vi

    2024年02月08日
    浏览(213)
  • sqoop入门简介 | 安装部署 | sqoop案例展示

    Sqoop (发音:skup)是一款开源的工具,主要用于在Hadoop(Hive)与传统的数据库(mysql、postgresql…)间进行数据的传递,可以将一个关系型数据库(例如 : MySQL ,Oracle ,Postgres等)中的数据导进到Hadoop的HDFS中,也可以将HDFS的数据导进到关系型数据库中。 Sqoop项目开始于2009年,最早是作

    2024年02月04日
    浏览(45)
  • Sqoop的安装和使用

    目录 一.安装 二.导入 1.全量导入 一.MySQL导入HDFS  二.MySQL导入Hive  2.增量导入 一.过滤导入hdfs/hive 二.导出   【CSDN中我的资源包直接下载】  1.下载地址(速度更快) :sqoop下载地址  【官方下载】  2.下载地址(速度更慢):sqoop下载地址  2.解压 3.改名和配置归属权限  4

    2024年02月05日
    浏览(45)
  • Windows下安装Sqoop

    1.1、Sqoop是什么 Sqoop是一个用于Hadoop和结构化数据存储(如关系型数据库)之间进行高效传输大批量数据的工具。 它包括以下两个方面: 1.1.1、​可以使用Sqoop将数据从关系型数据库管理系统(如MySql)导入到Hadoop系统(如HDFS、Hive、HBase)中。 1.1.2、将数据从Hadoop系统中抽取并导出

    2024年02月14日
    浏览(34)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包