当前位置：首页 > news >正文

【hadoop】Sqoop数据迁移工具的安装部署

news 来源：原创 2025/5/9 8:30:24

一、Sqoop安装与配置

步骤：

1、使用XFTP将Sqoop安装包sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz发送到master机器的主目录。

2、解压安装包：

tar -zxvf ~/sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz

3、修改文件夹的名字，将其改为sqoop，或者创建软连接也可：

mv ~/sqoop-1.4.6.bin__hadoop-2.0.4-alpha ~/sqoop

4、Sqoop的相关配置文件位于安装路径下的conf文件夹中，进入到该目录下，修改相关配置文件即可。

cd ~/sqoop/conf

5、修改sqoop-env.sh配置文件，该文件一开始并不存在：

vim sqoop-env.sh

在对应的地方补充上Hadoop、Hive、HBase、ZooKeeper等的安装路径即可，内容如下：

export HADOOP_COMMON_HOME=/home/hadoop/hadoop-2.9.2
export HADOOP_MAPRED_HOME=/home/hadoop/hadoop-2.9.2
export HBASE_HOME=/home/hadoop/hbase
export HIVE_HOME=/home/hadoop/hive
export ZOOCFGDIR=/home/hadoop/zookeeper-3.4.6

需要根据你的实际情况修改，配置文件修改完成后保存。

6、配置环境变量，后续只需要在master上启动HBase，因此只在master上配置即可：

vim ~/.bashrc

在文件末尾添加以下内容：

export SQOOP_HOME=/home/hadoop/sqoop
export PATH=$SQOOP_HOME/bin:$PATH

保存文件，然后刷新环境变量或重新启动命令行终端：

source ~/.bashrc

7、添加MySQL驱动包，将mysql-connector-java-5.1.38.jar驱动包上传到master主机上，并把它放到Sqoop安装目录下的lib文件夹内即可：

mv ~/mysql-connector-java-5.1.38.jar ~/sqoop/lib/

二、测试运行

前提：确保Zookeeper、HDFS、YARN三个重要组件都正确启动。

步骤：

1、使用help命令查看Sqoop的用法，验证安装是否成功：

sqoop help

2、测试MySQL数据库能否成功连接：

sqoop list-databases --connect jdbc:mysql://localhost --username root -password 123456

如果能打印出本地MySQL数据库里面的数据库名称列表，即为连接本地数据库成功。

3、（可选）授予本地MySQL数据库root账户远程访问权限：

先登录到MySQL中：

mysql -u root -p

然后执行以下语句：

mysql> grant all on *.* to 'root'@'master' identified by '123456' with grant option;
mysql> grant all on *.* to 'root'@'%' identified by '123456' with grant option;
mysql> flush privileges;

执行完上述语句，就可以把上面连接数据库的localhost，改成主机名或者ip地址，也可以使用root用户远程连接本地的这个MySQL数据库了。