Linux服务器集群-大数据基础环境搭建指南

这篇具有很好参考价值的文章主要介绍了Linux服务器集群-大数据基础环境搭建指南。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

【博学谷学习记录】超强总结,用心分享|Linux服务器集群-大数据基础环境搭建指南

本文将构建三台Linux服务器(node1、node2、node3),通过相关配置,搭建出一个Linux服务器集群环境适用于大数据的开发学习。

一、第一台Linux服务器创建

本文使用的VMware版本为:VMware16;
本文环境搭建使用到的Linux发行版本为:CentOS7;
本文的电脑操作环境为:windows11。
首先,需要根据之前发文中的流程创建好第一台Linux服务器,命名为node1。
Linux简单环境搭建https://blog.csdn.net/weixin_43741856/article/details/128513521?spm=1001.2014.3001.5501

二、Linux集群服务器环境搭建

1.通过ISO镜像文件搭建(不推荐)

重复创建node1的步骤,通过iso镜像文件安装、配置服务器node2、node3。
不推荐理由:步骤繁琐、JDK、MYSQL及防火墙之类的安装、设置都需要重新来过。

2.通过克隆搭建(强烈推荐)

通过克隆的方式,根据node1虚拟机直接克隆出新的Linux虚拟机node2、node3。具体步骤如下:
(1)确保node1虚拟机能正常运行后,关闭node1虚拟机。
(2)右键“node1”,选择“管理”,选择“克隆”(node2、node3的克隆一样,都是从node1进行克隆)。
Linux服务器集群-大数据基础环境搭建指南
(3)选择“克隆”后,一路下一步,选择“创建完整克隆”(node3的克隆同理)。

Linux服务器集群-大数据基础环境搭建指南
(4)修改“虚拟机名称”为node2、存放路径设置成和node1一样,但是一定要提前在最终目录下创建好node2文件夹(node3的克隆同理)。

Linux服务器集群-大数据基础环境搭建指南

三、Linux集群服务器内存、处理器配置

1.内存配置

本文Linux集群总共3台虚拟机,加上自身Windows,整个集群如果正常运转则需要同时运行4台机器。所以在分配的时候,每台虚拟机的内存为:总内存 ➗ 4。例如:电脑总内存为16G,则每台Linux虚拟机内存设置为4G,即4096MB。
Linux服务器集群-大数据基础环境搭建指南

2.处理器配置

处理器内核总数 = 处理器数量 * 每个处理器的内核数量。
处理器的配置同样需要根据各自电脑性能进行相应配置(可从“任务管理器”的“性能”中看到自己“逻辑处理器”数量。)因此,处理器内核总数设置 = 逻辑处理器 / 4,即可。
Linux服务器集群-大数据基础环境搭建指南

四、Linux集群服务器MAC地址配置

由于node2和node3都是从node1克隆而来,所以在mac地址配置前,三台虚拟机的MAC地址都一样,我们要对node2、node3虚拟机进行mac地址重新配置,否则无法同时启动三台虚拟机。
使用VMware打开node2,右键选择“设置”,选择“网络适配器”,选择“高级”,点击“生成”(点击一下、多下均可,目的就是为了和node1不一样),点击“确定”(node3的配置同理)。
Linux服务器集群-大数据基础环境搭建指南

五、Linux集群服务器IP地址配置

由于node2和node3都是从node1克隆而来,所以在IP地址配置前,三台虚拟机的IP地址都一样,我们要对node2、node3虚拟机进行IP地址重新配置。
三台虚拟机的IP地址除了末尾数,其他应该都配置成一样,例如:
node1:192.111.11.1
node2:192.111.11.2
node3:192.111.11.3
由于node1在创建之处就已经配置好了IP地址,因此只要对node2、node3进行配置。
(1)进入node2的Linux服务器,修改IP配置文件、设置IP地址。(node3同理)
在node2的服务器中输入:vim /etc/sysconfig/network-scripts/ifcfg-ens33
Linux服务器集群-大数据基础环境搭建指南
(2)重启网络服务(node3同理)。
在node2的服务器中输入:systemctl restart network
(3)查看更新后的IP地址(node3同理)。
在node2的服务器中输入:ifconfig
(4)测试网络连接(node3同理)。
在node2的服务器中输入:ping www.baidu.com

六、使用CRT连接三台虚拟机

通过以上步骤配置后,则可以通过任意Linux连接工具进行node2、node3服务器连接。(略)

七、Linux集群服务器主机名、域名配置

由于node2和node3都是从node1克隆而来,所以在主机名、域名配置前,三台虚拟机的主机名都一样,都是node1。因此需要对node2、node3重新配置。
(1)进入node2的Linux服务器,修改主机名。(node3同理)
在node2的服务器中输入:vim /etc/hostname 修改node1为node2
(2)进入node2的Linux服务器,修改域名。(node3同理)
在node2的服务器中输入:vim /etc/hosts
**注意:**不要修改文件原来内容,三台虚拟机的配置内容应当一样。都在文件末尾添加以下内容:
192.111.11.1 node1 node1.xxx.cn
192.111.11.2 node2 node2.xxx.cn
192.111.11.3 node3 node3.xxx.cn

八、关闭Linux集群服务器的防火墙、Selinux

1.关闭每台虚拟机的防火墙

在每台虚拟机上分别执行一下命令:
(1)systemctl stop firewalld.service #停止firewall
(2)systemctl disable firewalld.service #禁止firewall开机启动
关闭之后,查看防火墙状态:
systemctl status firewalld.service

2.关闭每台虚拟机的Selinux

编辑每台虚拟机的Selinux的配置文件:vim /etc/selinux/config
将SELINUX=enforcing 修改为SELINUX=disabled
Linux服务器集群-大数据基础环境搭建指南

3.分别重启三台虚拟机

九、Linux集群服务器互相免密登录配置

由于后期应用需要频繁从主节点进入从节点,从node1进入node2、node3时,每次都需要输入密码才能登陆,非常麻烦。因此,需要对三台虚拟机进行免密登录配置。

1.三台虚拟机都需要生成公钥和私钥

在三台虚拟机上执行:ssh-keygen -t rsa
执行该命令后,按三下回车键即可,就会生成两个文件id_rsa(私钥)、id_rsa.pub(公钥),默认保存在/root/.ssh目录下。

2.将三台虚拟机的公钥拷贝到同一台虚拟机node1上

在三台虚拟机上执行:ssh-copy-id node1
执行命令后,输入yes,和虚拟机密码,即可。

3.复制node1的认证到其他虚拟机上

在node1虚拟机上执行:
(1)scp /root/.ssh/authorized_keys node2:/root/.ssh
(2)scp /root/.ssh/authorized_keys node3:/root/.ssh
执行命令时。输入yes,和对应的密码,即可。

4.测试SSH免密登录

可以在任何一台主机上通过ssh 主机名命令去远程登录到该主机,输入exit退出登录.
Linux服务器集群-大数据基础环境搭建指南

十、Linux集群服务器时钟同步配置

大数据环境下的Linux集群必须进行时间同步配置,不然后期分布式系统的应用会出现存储时间不一致问题。

1.通过网络进行时钟同步(操作简单,推荐)

注意: 通过网络连接外网进行时钟同步,必须保证虚拟机连上外网。
(1)分别在三台虚拟机中启动定时任务
输入执行指令:crontab -e
(2)随后在输入界面键入以下内容,每隔一分钟就去连接阿里云时间同步服务器,进行时钟同步
输入指令:* * * * * /usr/sbin/ntpdate ntp4.aliyun.com

2.通过对表某一台虚拟机进行同步(操作复杂,不推荐,略)

十一、总结

Linux服务器集群-大数据基础环境搭建步骤较为繁琐,本文尽可能详细的描述了搭建的每一环节的必要操作。只要耐心根据本文操作,搭建出一个大数据的学习环境是非常简单的。准备环境已搭建好,后面将继续做好学习笔记整理。文章来源地址https://www.toymoban.com/news/detail-468062.html

到了这里,关于Linux服务器集群-大数据基础环境搭建指南的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 【Linux】主机搭建 Linux服务器环境 笔记

    过年买了个 mini 主机当玩具玩一下,这里记录下。 已有主力机 (windows) 的情况下,使用过如下四种 Linux宿主环境。这里总结下区别。 优点 云服务器 虚拟机 笔记本电脑 mini主机 价格低 √ √ 便携 √ √ 环境隔离 √ √ √ 详细过程不贴出来了,把关键点回忆一下,方便以后快

    2024年02月21日
    浏览(43)
  • 【Linux】腾讯云服务器搭建环境

    Linux是一种自由和开放源代码的类UNIX操作系统,该操作系统的内核由 林纳斯托瓦兹 在1991年首次发布,之后,在加上用户空间的应用程序之后,就成为了Linux操作系统。严格来讲,Linux只是操作系统内核本身,但通常采用“Linux核”来表达该意思。而Linux则常用来指基于Linux内核

    2024年02月06日
    浏览(35)
  • 简单对已有云服务器进行linux环境搭建以及共享服务器

    外壳程序:Xshell7 云服务器:华为云 服务器操作系统:centos7 区域尽量选择距离所处地距离自己最近的区域。 镜像这里选择的为centos7.6-7.9,最好不要超过8 ,8的生态环境较差且已经停止更新和维护了,7完全够用。 进入所买服务器网站,找到所买的服务器实例, 重新设置密码。

    2024年03月22日
    浏览(58)
  • 深度学习服务器(Linux)开发环境搭建教程

    当你拿到一台服务器的使用权时,最头疼的莫过于登陆服务区并配置开发环境。本文将从0开始,讲述一台刚申请的服务器远程登陆并配置开发环境的全过程。希望对你有所帮助 打开MobaXterm软件,创建一个新的Session,选择SSH登陆。其中Remote host填服务器的IP地址,Specify userna

    2024年02月05日
    浏览(39)
  • 『Linux』Linux环境搭建 | 阿里云云服务器白嫖 | Xshell环境配置

    🔥 博客主页 : 小羊失眠啦 🔖 系列专栏 : C语言 、 Linux 🌥️ 每日语录 : 时间,都是公平的,不公平的,只是现在的自己,对未来的自己。 ❤️ 感谢大家点赞👍收藏⭐评论✍️ 前些天发现了一个巨牛的人工智能学习网站,通俗易懂,风趣幽默,忍不住分享一下给大家

    2024年02月08日
    浏览(42)
  • Redis持久化说明及其单台Linux服务器搭建Redis集群架构

    说明:RDB快照主要以二进制文件的形式进行存储数据,主要以文件名dump.rdb进行存储,主要设置redis.conf里面设置’save 60 1000’命令可以开启, 表示在60秒内操作1000次进行一次备份数据。在客户端执行save(同步)和bgsave(异步操作)。 redis.conf 启动redis相关命令 说明:主要把文件生

    2024年02月10日
    浏览(45)
  • linux服务器搭建python+selenium+chrome运行环境

    第一步(安装python3.6.8): 安装参考步骤:python3.6.8环境安装 第二步(安装和创建python3虚拟环境): 第三步(在虚拟环境安装依赖包): 第四步(安装chrome和chromedriver): 第五步(安装scrapyd环境): 第六步(安装虚拟图像环境Xvfb): 运行实例代码测试: ps:当前依赖:requirements.txt 百度网盘:链

    2024年02月07日
    浏览(38)
  • Linux环境(Ubuntu)上搭建MQTT服务器(EMQX )

    目录 概述 1 认识EMQX 1.1 EMQX 简介 1.2 EMQX 版本类型 2 Ubuntu搭建EMQX 平台 2.1 下载和安装 2.1.1 下载 2.1.2 安装 2.2 查看运行端口 3 运行Dashboard 管理控制台 3.1 查看Ubuntu上的防火墙 3.2 运行Dashboard 管理控制台 本文主要介绍EMQX 的一些内容,终端介绍如何在Ubuntu上安装EMQX,并可以在第三

    2024年04月08日
    浏览(38)
  • 【Linux环境搭建】从云服务器购买到第一个Linux程序

    目录 1. 我们为什么要学Linux 2. 云服务器购买 3. 远程连接云服务器 4. 如何创建新用户   5. 第一个Linux程序 总结: 写在最后: 作为一个程序员,你必须学好Linux,至于为什么,这个问题, 在我们日后的学习中,自然会慢慢展现出来,而校招对于Linux也有掌握的要求, 所以我们

    2023年04月17日
    浏览(32)
  • 『Linux从入门到精通』第 ① 期 - Linux环境搭建 | 云服务器购买 | Xshell环境配置

    目录 💐专栏导读 💐文章导读  🌷Linux环境的搭建方式 🌷云服务器购买 🌷Xshell的安装及使用 🌺Xshell安装 🌺Xshell使用 🌷如何进行共享账号? 🌺创建账号 🌺设置密码 🌺如何登录自己的账号 🌺root与普通用户的区别 🌸作者简介: 花想云 ,在读本科生一枚,致力于 C/

    2024年02月01日
    浏览(49)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包