Win10 环境下 spark 本地环境的搭建

这篇具有很好参考价值的文章主要介绍了Win10 环境下 spark 本地环境的搭建。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

 一、安装配置 java 环境(已有 java 环境则跳过)

所需文件下载

链接:https://pan.baidu.com/s/1OYoeMVHOtcu05jR1mL7LeA 
提取码:yyds

下载 jdk1.8.0_66_windows-x64_bin.exe(或其他版本)

配置环境变量:

此电脑(右击)==>属性==>高级系统设置==>环境变量==>系统变量==>新建

CLASSPATH:.;%JAVA_HOME%\lib\dt.jar;%JAVA_HOME%\lib\tools.jar;
JAVA_HOME:C:\Program Files\Java\jdk1.8.0_66(jdk安装路径)

 win10开发spark,spark,大数据,分布式

 此电脑(右击)==>属性==>高级系统设置==>环境变量==>系统变量==>Path==>新建

%JAVA_HOME%\bin
%JAVA_HOME%\jre\bin

 win10开发spark,spark,大数据,分布式

二、scala 安装配置

下载 scala-2.11.12.msi

配置环境变量

 此电脑(右击)==>属性==>高级系统设置==>环境变量==>系统变量==>Path==>新建

%SCALA_HOME%\bin

win10开发spark,spark,大数据,分布式

查看是否安装成功

scala -version

win10开发spark,spark,大数据,分布式

三、Spark 安装配置

解压 spark-2.3.0-bin-hadoop2.7.tgz 文件夹至本地

win10开发spark,spark,大数据,分布式

配置 spark 环境变量

此电脑(右击)==>属性==>高级系统设置==>环境变量==>系统变量==>Path==>新建

D:\Files\Spark\bin  (spark安装路径)

win10开发spark,spark,大数据,分布式

配置 hadoop环境

解压 hadoop-2.8.3.tar.gz 至本地
win10开发spark,spark,大数据,分布式
配置 HADOOP_HOME&Path
HADOOP_HOME:D:\Files\Hadoop                            (hadoop安装路径)
path:%HADOOP_HOME%\bin

win10开发spark,spark,大数据,分布式

将对应版本的 bin.zip 解压后的 bin 目录直接替换本地 hadoop 的 bin 目录 即可

验证环境搭建是否成功

cmd 中输入 spark-shell 回车
win10开发spark,spark,大数据,分布式
win10 单机版 spark 环境搭建成功

四、使用 pyspark 则要求 python 环境(已有 python 环境则跳过)

Spark python 高版本支持不是很好,建议安装 python 的版本 3.6

用Anaconda创建虚拟环境

用Anaconda的虚拟环境配置python环境(Anaconda安装略)

创建名为 pyspark 虚拟环境,python版本为3.6.3

conda create -name pyspark python=3.6.3

查看虚拟环境

conda -v

激活虚拟环境

conda activate pyspark

打开pycharm应用环境

win10开发spark,spark,大数据,分布式文章来源地址https://www.toymoban.com/news/detail-766300.html

五、pycharm 配置 pyspark 环境

安装依赖模块

pip install pyspark==2.3.0

PyCharm 测试是否配置成功

from pyspark import Spark
Contextsc = SparkContext("local", "test")
t1 = sc.parallelize([1,2,3])
t2 =t1.collect()
print(t1)
print(t2)

六、Jupter notebook 配置 pyspark 环境

安装 jupyter notebook: pip install jupyter
启动 jupyter notebook
win10开发spark,spark,大数据,分布式

到了这里,关于Win10 环境下 spark 本地环境的搭建的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 海康机器人工业相机 Win10+Qt+Cmake 开发环境搭建

    参考这个链接安装好MVS客户端 Qt新建一个c++项目 cmakeList中添加海康机器人的库,如下: main.cpp中添加以下代码 运行程序,出现以下内容则说明安装库成功

    2024年02月11日
    浏览(40)
  • Qt开发笔记(Qt5.9.9下载安装环境搭建win10)

    #1 Qt下载网站(国内、国外镜像) #2 Qt5.9.9安装选项 #3 配置系统环境变量 #4 创建测试项目 #1 Qt下载网站(国内、国外镜像) 官方下载地址(慢):http://download.qt.io/ 国内镜像网站 这里给大家推荐几个国内著名的 Qt 镜像网站,主要是各个高校的: 中国科学技术大学:http://mi

    2024年02月15日
    浏览(37)
  • 11.TMS320C5509V+Win10+CCS8开发环境搭建

    众所周知,相较于TMS320F28335,TMS320C5509V属于较老的平台,在新版本的CCS版本上支持一直是一个问题。 最基本的问题便是,无法新建基础工程。各开发版厂商提供的例程无法在CCS8上使用,只支持CCS3.3环境,但是由于目前Win7、Win10等系统均不再支持CCS3.3,所以只能折腾虚拟机来

    2024年02月07日
    浏览(33)
  • Qt6.5.1+WebRTC学习笔记(十)开发环境搭建(win10+vs2022)

    1.操作系统win10 64位 2.合理的上网方式,需要正常访问google,最好有40G以上流量 3.安装VS2022,笔者使用的是社区版,并选中C++相关,笔者设置如下        注意,win10的sdk需要是10.0.22621.0,其他版本可能导致编译不通过,而且这个版本会根据webrtc源码的更新而发生变化  4.安装

    2024年02月08日
    浏览(38)
  • win10 vs2022 搭建 cocos2d-x 3.17 开发环境

    https://cocos2d-x.org/download/ 也可以在 github 下载 https://github.com/cocos2d/cocos2d-x/tags https://docs.cocos2d-x.org/cocos2d-x/v3/zh/ https://docs.cocos2d-x.org/api-ref/cplusplus/v3x/index.html 需要 python2 , 安装后可以用 python2 的绝对路径运行 cocos 的 setup.py 如何没有把 python2 加入到环境变量, 可以修改引擎路径下

    2024年02月08日
    浏览(35)
  • 在win10电脑上搭建python环境下的本地AI绘画工具Stable Diffusion(我的电脑AI作品欣赏)

     宁静的午后 孪生姐妹   美女 街景   印象大师  

    2024年02月15日
    浏览(31)
  • GCC - 基于win10平台搭建Cmake + MinGW + gcc-arm-none 开源开发环境

    基于GUN开源工具链,搭建Windows平台下 ARM 编译运行环境! 🐱‍🚀 文中涉及的开发工具包已打包上传 ,可点击此处下载。 1、 建议直接下载安装git (内部集成有该工具),也可点击此处单独下载Git Bash工具; 2、如无法直接调用,添加对应环境变量; 32位下载地址:  MinG

    2024年02月10日
    浏览(28)
  • win10本地搭建SFTP

    步骤如下: 1.安装OpenSSH服务端 开始-设置-应用-可选功能-添加功能-OpenSSH服务端 因为我本地已经安装过了,所以就不在安装了。 2. 启动服务 鼠标右键计算机管理服务和应用程序服务 启动如图两个服务。 3. 测试 用xftp/xshell连接 基本信息配置如下(sftp默认端口为:22): 补充

    2024年02月04日
    浏览(24)
  • Golang环境搭建(Win10)

    Go(又称 Golang)是 Google 的 Robert Griesemer,Rob Pike 及 Ken Thompson 开发的一种静态强类型、编译型语言。Go 语言语法与 C 相近,但功能上有:内存安全,GC(垃圾回收),结构形态及 CSP-style 并发计算。 话不多抄,让我们开始按步骤一步步进行即可完成开发环境的搭建工作;本文

    2024年02月12日
    浏览(21)
  • win10环境下搭建QT+opencv

    源码编译安装 免编译/cmake安装 vs2022环境安装 modules/core/CMakeFiles/opencv_core.dir/vs_version.rc.obj] Error 1 然后继续执行 ​ mingw32-make -j 8 进行编译。

    2024年02月07日
    浏览(34)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包