当前位置: 首页 > news >正文

win10安装spark3.1详细流程(小白用)

我需要在win10安装spark和Hadoop,在网上找了很多教材,发现不适用于自己。所以根据自己的情况,做笔记如下。


1、具体版本信息

java 1.8
scala 2.12 (注意,spark3.1.2不支持scala2.13)
hadoop 3.2.1
spark 3.1.3

可以在这里直接下载
链接: https://pan.baidu.com/s/16EC8BYHSDmBiYswxuIkCEg 提取码: 2025

注意:把网盘里的文件都下载了,其中的winutils.exe是针对hadoop 3.2.1版本的,也就是网盘里hadoop的版本

2、安装流程

我们需要依次安装 java/scala/hadoop/spark.

2.1 java

  • 双击jdk-8u271-windows-x64.exe进行JDK1.8的安装。

  • 在系统环境变量中添加JAVA_HOME,变量值输入Java安装路径。
    我的电脑 -> 属性 -> 高级系统配置 -> 环境变量,进入高级系统设置,进入环境变量
    在这里插入图片描述

  • 将JAVA_HOME添加到系统环境变量的Path中。
    在这里插入图片描述

  • 验证JDK是否安装正确了
    点击开始键,然后输入 cmd, 在框内输入java -version (后面的验证同理)
    在这里插入图片描述

2.2 scala

  • 解压scala-2.12.zip到D:\XXX\scala-2.12
  • 在系统环境变量中添加SCALA_HOME
  • 将SCALA_HOME添加到系统环境变量的Path中。
    在这里插入图片描述
  • 验证下scala是否安装和配置正确了
    在这里插入图片描述

2.3 hadoop

  • 解压Hadoop安装包,解压到D:XXX
  • 在系统环境变量中添加HADOOP_HOME
    在这里插入图片描述
  • 将HADOOP_HOME添加到系统环境变量的Path中
    在这里插入图片描述
  • 验证Hadoop的环境变量是否配置好了。输入 hadoop version
    在这里插入图片描述

2.4 spark

  • 解压spark安装包,解压到D:\XX\spark-3.1.3

  • 在系统环境变量中添加SPARK_HOME
    在这里插入图片描述

  • 将SPARK_HOME添加到系统环境变量的Path中
    在这里插入图片描述

  • 将hadoop对应版本的winutils.exe,放到hadoop的bin目录下。例如:D:\Software_files\1_Packages\hadoop-3.2.1\bin。然后再在黑色窗口中运行 spark-shell
    在这里插入图片描述

3、参考

[1] https://blog.csdn.net/besmarterbestronger/article/details/128780730

http://www.dtcms.com/a/460988.html

相关文章:

  • Spark on k8s部署
  • Kotlin 内联函数、高阶函数、扩展函数
  • 用化学方法nmp溶剂从佳能cmos传感器上剥离拜耳矩阵和微透镜
  • Apache Tomcat 详解
  • 矩阵奇异值分解(SVD)中Golub–Kahan 双对角化 + 对双对角矩阵的隐式QR详解
  • QT MVC中Model的特点及使用注意事项
  • wordpress最快仿站宁波网络营销服务
  • 徕卡RTC360助力铝单板设计效率提升
  • EasyExcel 读取 Excel 文件指南
  • LabVIEW光栅旋转式光谱仪
  • 上海营销网站设计去设计公司还是去企业
  • 怎么查询自己注册的商标东营网站建设课程定位优化
  • 【rabbitmq 高级特性】RabbitMQ 延迟队列全面解析
  • linux学习笔记(22)线程同步——线程信号量
  • 如何用营销自动化提升开信率与转化率
  • 人形机器人安全研究
  • 比斯特自动化|为什么焊接18650电池离不开点焊机?
  • 多字节串口收发IP设计(二)串口通信扫盲
  • 人工智能基础知识笔记十七:微调方法
  • 北京企业免费建站农八师建设兵团社保网站
  • 《强化学习数学原理》学习笔记11——阶段策略迭代算法
  • Qt QtConcurrent使用入门浅解
  • C语言字符串与内存操作函数完全指南
  • 【第五章:计算机视觉-项目实战之生成式算法实战:扩散模型】2.CV黑科技:生成式算法理论-(5)Stable Diffusion模型讲解
  • Cookie和Seeion在客户端和服务端的角色作用
  • Linux 远程Ubuntu服务器本地部署大模型 EmoLLM 中常见的问题及解决方案 万字详解
  • 如何建设公司网站信息灯塔网站seo
  • Java 中 `equals()`、`==` 和 `hashCode()` 的区别
  • 成像系统(十四-1:《工业级ISP流水线:ISP前端处理 - 从原始数据到可用图像》):从LED冬奥会、奥运会及春晚等大屏,到手机小屏,快来挖一挖里面都有什么
  • vue-router(vue 路由)基本使用指南(二)