spark环境安装
第一关
mkdir /app //创建 app 目录
cd /opt
tar -zxvf scala-2.12.7.tgz -C /app
vi /etc/profile
#set scala
SCALA_HOME=/app/scala-2.12.7
export PATH=$PATH:$SCALA_HOME/bin
source /etc/profile
scala -version
//scala 不写也不影响通关
//println("hello world");
第二关
tar -zxvf spark-2.2.2-bin-hadoop2.7.tgz -C /app
vim /etc/profile
#set spark enviroment
SPARK_HOME=/app/spark-2.2.2-bin-hadoop2.7
export PATH=$PATH:$SPARK_HOME/bin
source /etc/profile
cd /app/spark-2.2.2-bin-hadoop2.7/conf
cp spark-env.sh.template spark-env.sh
vim spark-env.sh
export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_111
export SCALA_HOME=/app/scala-2.12.7
export HADOOP_HOME=/usr/local/hadoop/
export HADOOP_CONF_DIR=/usr/local/hadoop/etc/hadoop
export SPARK_MASTER_IP=evassh-9262177 # machine_name 根据自己的主机确定
export SPARK_LOCAL_IP=evassh-9262177 # machine_name 根据自己的主机确定
cd /app/spark-2.2.2-bin-hadoop2.7
./sbin/start-all.sh
文章来源地址https://www.toymoban.com/news/detail-523129.html
文章来源:https://www.toymoban.com/news/detail-523129.html
到了这里,关于头歌平台,大数据实验五,spark安装的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!