当前位置: 首页 > news >正文

Hadoop集群搭建(上):centos 7为例(已将将安装所需压缩包统一放在了/opt/software目录下)

一.配置主机名

1.查看自己服务器ip输入命令:ifconfig

给服务配置一个主机名,这样后面在访问的时候只需要通过主机名而不是 IP 了

序号主机名称IP
1master设置自己的主机ip

2.修改主机名在,服务器上执行命令如下:

hostnamectl set-hostname master  #将主机名改为master

3.配置 IP 和主机名称之间的映射,要想通过主机名识别服务器还需要配置IP和主机名之间的映射关系,执行如下指令对 IP 映射文件 hosts进行编辑。

vim /etc/host

添加以下内容:

192.168.65.10 master

4.reboot重启虚拟机通过ping命令ping master显示通即成功:

二. 配置免密登录

在集群开发中,节点之间通常会对集群中其他节点频繁地访问,就需要不断输入目标服务器的用户名和密码,这种操作方式非常麻烦并且还会影响集群服务的连续运行。为了解决上述问题,可以通过配置SSH 实现服务之间的免密登录功能。

这里,我们只需要配置master到master自己,在master中生成公钥私钥对,将master上的公钥拷贝到master自己。

1.在master服务器上生成公钥私钥对,执行如下命令:

ssh-keygen -t rsa #4个回车生成公钥、私钥

2.在master上将公钥拷贝到自己master,执行如下命令

ssh-copy-id master

3.完成上述配置后,我们可以选择启动master服务器进行免密测试:

ssh master #通过ssh访问master看看是否需要输入密码?

直接登录不需要输入密码即代表配置成功。

三. 关闭防火墙

1.为了方便内部服务之间相互访问,建议将master服务器的防火墙关闭。在master服务器上执行命令如下:

systemctl stop firewalld #关闭防火墙
systemctl disable firewalld  #防止防火墙自启

2.配置java环境

1.配置 JDK

由于 Hadoop 是由 Java 语言开发的,Hadoop 集群的使用依赖于 Java 环境,因此在安装 Hadoop 集群前,需要先安装并配置好 JDK。接下来,就在前面规划的 Hadoop 集群主节点master机器上分步骤演示如何安装和配置 JDK。

查看系统已有的JDK执行:

rpm -qa | grep java  #查询系统中存在的JDK相关的包

有的话建议删除执行:

rpm -e --nodeps rpm包名

出现空白即代表删除彻底:

2.准备JDK文件

为了规范后续 Hadoop 集群相关软件和数据的安装配置,这里在虚拟机的根目录下创建一些文件夹作为约定提示:

mkdir -p /opt/data  #数据存储路径
mkdir -p /opt/module  #软件安装路径

3.解压 JDK

接着,将安装包解压到/opt/module/目录,具体指令如下:

cd /opt/software #切换工作目录
tar zxvf jdk-8u212-linux-x64.tar.gz -C /opt/module/ #将jdk源文件解压到/opt/module

完成后,到/opt/module目录下会看到解压后的文件

4.配置环境变量安装完 JDK 后,还需要配置 JDK 环境变量,在/etc/profile.d目录下创建一个新的文件my_env.sh

vim /etc/profile.d/my_env.sh #编辑文件

在该文件中添加如下内容:

#JAVA_HOME
export JAVA_HOME=/opt/module/jdk1.8.0_212
export PATH=$PATH:$JAVA_HOME/bin

修改完成后执行以下命令生效环境变量:

source /etc/profile

5.在完成 JDK 的安装和配置后,为了检测安装效果,可以输入如下指令进行验证:

java -version

到这里,我们已经完成了master服务器上的 JDK 配置。

http://www.dtcms.com/a/602628.html

相关文章:

  • 北京市丰台区建设部官方网站网站500错误是什么意思
  • 最好的商业网站网上移动厅官方网站
  • 4.1.2 EP2624-0002 四继电器模块接线说明
  • 反编译易语言程序 | 如何有效反编译与逆向分析易语言应用程序
  • 电子商务网站建设流程阳新网站建设
  • 服务端 http接口文档 标准参考
  • 3GPP 5G八大性能需求及影响介绍
  • php做的网站如何运行wordpress加ssl
  • 带注册登录的网站模板网站建设 qq业务网制作
  • android-studio如何打包一个debug的apk
  • 【Java SE 基础学习打卡】11 Path 环境变量的配置
  • 学网站建设需要什么软件购物网站开发介绍
  • 基于MATLAB的多尺度血管检测与线追踪实现
  • 分布式锁实现方式深度详解
  • 网站建设评审会禁忌网站
  • 网站后台策划微信如何开小程序
  • 【AI学习-comfyUI学习-抠图+实时图像裁剪-各个部分学习-第九节1】
  • SwiftUI 新特性:Animatable 宏的使用与原理解析
  • 网站制作优质公司html网站后台模板
  • 电子商务网站开发系统江西seo
  • 如何改进网站服务建设和管理安装wordpress到服务器
  • 用帝国做网站怎么样做网站必须知道的问题
  • 一场协议转换的“破壁”之旅:CC-Link IE转PROFINET网关实战手记
  • 【05】方向梯度直方图(HOG)详解:从原理到实现
  • 在淘宝做印刷网站怎么办网站主要栏目
  • 监督对齐DPO算法实例讲解
  • 建设网站应该注意些什么个人域名备案需要多久
  • C语言条件编译的应用与优化技巧 | 探讨条件编译在项目中的实际运用与优化方法
  • 网页数据抓取:融合BeautifulSoup和Scrapy的高级爬虫技术
  • LeetCode 2654. 使数组所有元素变成 1 的最少操作次数 - GCD 思维题详解