[toc]

零、搭建完全分布式环境准备

  1. 准备 3 台客户机(关闭防火墙、静态 IP、主机名称)(已准备)
  2. 安装 JDK(已准备)
  3. 配置环境变量(已准备)
  4. 安装 Hadoop(已准备)
  5. 配置环境变量(已准备)
  6. 配置集群
  7. 单点启动
  8. 配置 ssh
  9. 群起并测试集群

环境准备,1-5在搭建本地运行模式已经准备完毕,6到9本篇进行配置集群。
虚拟机准备:https://liudongdong.top/archives/hadoop3xwu-hadoop-huan-jing-da-jian-zhi-mo-ban-xu-ni-ji-zhun-bei
虚拟机克隆:https://liudongdong.top/archives/hadoop3xliu-hadoop-huan-jing-da-jian-zhi-ke-long-xu-ni-ji

一、配置集群环境准备

由于集群环境下,是通过网络进行通信,所以,需要集群间进行相互信任和同步文件的便捷!

1. SSH无密登录配置

1. 为什么要配置无密登录

切换到不同主机时,需要频繁进行网络和密码的确认,具体过程如下:

  1. 基本语法
    ssh另一台电脑的IP地址
  2. ssh连接时出现Host key verification failed的解决方法
[liudd@hadoop102 ~]$ ssh hadoop103
# 如果出现如下内容
......
Are you sure you want to continue connecting (yes/no)? 
# 输入yes,并回车

image.png

  1. 退回到hadoop102
[liudd@hadoop103 ~]$ exit

2. 配置无密登录

  1. 免密登录原理

image.png

  1. 生成公钥和私钥
[liudd@hadoop102 .ssh]$ pwd
/home/liudd/.ssh

[liudd@hadoop102 .ssh]$ ssh-keygen -t rsa

然后敲(三个回车),就会生成两个文件id_rsa(私钥)、id_rsa.pub(公钥)
image.png

文件说明
2.1 known_hosts 记录ssh访问过计算机的公钥(public key)
2.2 id_rsa 生成的私钥
2.3 id_rsa.pub 生成的公钥
2.4 authorized_keys 存放授权过的无密登录服务器公钥

  1. 将公钥拷贝到要免密登录的目标机器上
[liudd@hadoop102 .ssh]$ ssh-copy-id hadoop102
[liudd@hadoop102 .ssh]$ ssh-copy-id hadoop103
[liudd@hadoop102 .ssh]$ ssh-copy-id hadoop104

注意:
还需要在hadoop103上采用liudd账号配置一下无密登录到hadoop102、hadoop103、hadoop104服务器上。
还需要在hadoop104上采用liudd账号配置一下无密登录到hadoop102、hadoop103、hadoop104服务器上。
还需要在hadoop102上采用root账号,配置一下无密登录到hadoop102、hadoop103、hadoop104;

2. 编写集群分发脚本xsync

1. scp(secure copy)安全拷贝

  1. scp定义
    scp可以实现服务器与服务器之间的数据拷贝。(from server1 to server2)
  2. 基本语法
    scp -r $pdir/$fname $user@$host:$pdir/$fname
    命令 递归 要拷贝的文件路径/名称 目的地用户@主机:目的地路径/名称
  3. 案例实操
    前提:在hadoop102、hadoop103、hadoop104都已经创建好的/opt/module、 /opt/software两个目录,并且已经把这两个目录修改为liudd:liudd
[liudd@hadoop102 ~]$ sudo chown liudd:liudd -R /opt/module

3.1 在hadoop102上,将hadoop102中/opt/module/jdk1.8.0_231目录拷贝到hadoop103上。

[liudd@hadoop102 ~]$ scp -r /opt/module/jdk1.8.0_231 liudd@hadoop103:/opt/module

3.2 在hadoop103上,将hadoop102中/opt/module/hadoop-3.1.3目录拷贝到hadoop103上。

[liudd@hadoop103 ~]$ scp -r liudd@hadoop102:/opt/module/hadoop-3.1.3 /opt/module/

3.3 在hadoop103上操作,将hadoop102中/opt/module目录下所有目录拷贝到hadoop104上。

[liudd@hadoop103 opt]$ scp -r liudd@hadoop102:/opt/module/* liudd@hadoop104:/opt/module

2. rsync远程同步工具

rsync主要用于备份和镜像。具有速度快、避免复制相同内容和支持符号链接的优点。
rsync和scp区别:
用rsync做文件的复制要比scp的速度快,rsync只对差异文件做更新。
scp是把所有文件都复制过去。

  1. 基本语法
    rsync -av $pdir/$fname $user@$host:$pdir/$fname
    命令 选项参数 要拷贝的文件路径/名称 目的地用户@主机:目的地路径/名称

选项参数说明

选项功能
-a归档拷贝
-v显示复制过程
  1. 案例实操
    2.1 删除hadoop103中/opt/module/hadoop-3.1.3/wcinput
[liudd@hadoop103 hadoop-3.1.3]$ rm -rf wcinput/

2.2 同步hadoop102中的/opt/module/hadoop-3.1.3到hadoop103

[liudd@hadoop102 module]$ rsync -av hadoop-3.1.3/ liudd@hadoop103:/opt/module/hadoop-3.1.3/
  1. xsync集群分发脚本
    3.1 需求:循环复制文件到所有节点的相同目录下
    3.2 需求分析:
    3.2.1 rsync命令原始拷贝:
    rsync -av /opt/module liudd@hadoop103:/opt/
    3.2.2期望脚本:
    xsync要同步的文件名称
    3.2.3期望脚本在任何路径都能使用(脚本放在声明了全局环境变量的路径)
[liudd@hadoop102 ~]$ echo $PATH
/usr/local/bin:/usr/bin:/usr/local/sbin:/usr/sbin:/home/liudd/.local/bin:/home/liudd/bin:/opt/module/jdk1.8.0_231/bin
  1. 脚本实现
    3.1 在/home/liudd/bin目录下创建xsync文件
[liudd@hadoop102 opt]$ cd /home/liudd
[liudd@hadoop102 ~]$ mkdir bin
[liudd@hadoop102 ~]$ cd bin
[liudd@hadoop102 bin]$ vim xsync
# 在该文件中编写如下代码



#!/bin/bash

#1. 判断参数个数
if [ $# -lt 1 ]
then
    echo Not Enough Arguement!
    exit;
fi

#2. 遍历集群所有机器
for host in hadoop102 hadoop103 hadoop104
do
    echo ====================  $host  ====================
    #3. 遍历所有目录,挨个发送

    for file in $@
    do
        #4. 判断文件是否存在
        if [ -e $file ]
            then
                #5. 获取父目录
                pdir=$(cd -P $(dirname $file); pwd)

                #6. 获取当前文件的名称
                fname=$(basename $file)
                ssh $host "mkdir -p $pdir"
                rsync -av $pdir/$fname $host:$pdir
            else
                echo $file does not exists!
        fi
    done
done

3.2 修改脚本 xsync 具有执行权限

[liudd@hadoop102 bin]$ chmod +x xsync

3.3 测试脚本

[liudd@hadoop102 ~]$ xsync /home/liudd/bin

3.4 将脚本复制到/bin中,以便全局调用

[liudd@hadoop102 bin]$ sudo cp xsync /bin/

3.5 同步环境变量配置(root所有者)

# 注意:如果用了sudo,那么xsync一定要给它的路径补全。
[liudd@hadoop102 ~]$ sudo ./bin/xsync /etc/profile.d/my_env.sh

image.png

# 让环境变量生效
[liudd@hadoop103 bin]$ source /etc/profile
[liudd@hadoop104 opt]$ source /etc/profile

二、集群配置

1. 集群部署规划

注意:
NameNode和SecondaryNameNode不要安装在同一台服务器
ResourceManager也很消耗内存,不要和NameNode、SecondaryNameNode配置在同一台机器上。

hadoop102hadoop103hadoop104
HDFSNameNodeDataNodeDataNodeSecondaryNameNodeDataNode
YARNNodeManagerResourceManagerNodeManagerNodeManager

2. 配置文件说明

Hadoop配置文件分两类:默认配置文件和自定义配置文件,只有用户想修改某一默认配置值时,才需要修改自定义配置文件,更改相应属性值。

  1. 默认配置文件:
要获取的默认文件文件存放在Hadoop的jar包中的位置
[core-default.xml]hadoop-common-3.1.3.jar/core-default.xml
[hdfs-default.xml]hadoop-hdfs-3.1.3.jar/hdfs-default.xml
[yarn-default.xml]hadoop-yarn-common-3.1.3.jar/yarn-default.xml
[mapred-default.xml]hadoop-mapreduce-client-core-3.1.3.jar/mapred-default.xml
  1. 自定义配置文件:
    core-site.xml、hdfs-site.xml、yarn-site.xml、mapred-site.xml四个配置文件存放在$HADOOP_HOME/etc/hadoop这个路径上,用户可以根据项目需求重新进行修改配置。

  2. 配置集群
    3.1 核心配置文件
    配置core-site.xml

[liudd@hadoop102 ~]$ cd $HADOOP_HOME/etc/hadoop
[liudd@hadoop102 hadoop]$ vim core-site.xml
文件内容如下:
<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<configuration>
    <!-- 指定NameNode的地址 -->
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://hadoop102:8020</value>
    </property>

    <!-- 指定hadoop数据的存储目录 -->
    <property>
        <name>hadoop.tmp.dir</name>
        <value>/opt/module/hadoop-3.1.3/data</value>
    </property>

    <!-- 配置HDFS网页登录使用的静态用户为liudd -->
    <property>
        <name>hadoop.http.staticuser.user</name>
        <value>liudd</value>
    </property>
</configuration>

3.2 HDFS配置文件
配置hdfs-site.xml

[liudd@hadoop102 hadoop]$ vim hdfs-site.xml
文件内容如下:
<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<configuration>
	<!-- nn web端访问地址-->
	<property>
        <name>dfs.namenode.http-address</name>
        <value>hadoop102:9870</value>
    </property>
	<!-- 2nn web端访问地址-->
    <property>
        <name>dfs.namenode.secondary.http-address</name>
        <value>hadoop104:9868</value>
    </property>
</configuration>

3.3 YARN配置文件
配置yarn-site.xml

[liudd@hadoop102 hadoop]$ vim yarn-site.xml
文件内容如下:
<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<configuration>
    <!-- 指定MR走shuffle -->
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>

    <!-- 指定ResourceManager的地址-->
    <property>
        <name>yarn.resourcemanager.hostname</name>
        <value>hadoop103</value>
    </property>

    <!-- 环境变量的继承 -->
    <property>
        <name>yarn.nodemanager.env-whitelist</name>
        <value>JAVA_HOME,HADOOP_COMMON_HOME,HADOOP_HDFS_HOME,HADOOP_CONF_DIR,CLASSPATH_PREPEND_DISTCACHE,HADOOP_YARN_HOME,HADOOP_MAPRED_HOME</value>
    </property>
</configuration>

3.4 MapReduce配置文件
配置mapred-site.xml

[liudd@hadoop102 hadoop]$ vim mapred-site.xml
文件内容如下:
<?xml version="1.0" encoding="UTF-8"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<configuration>
	<!-- 指定MapReduce程序运行在Yarn上 -->
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
</configuration>
  1. 在集群上分发配置好的Hadoop配置文件
[liudd@hadoop102 hadoop]$ xsync /opt/module/hadoop-3.1.3/etc/hadoop/
  1. 去103和104上查看文件分发情况
[liudd@hadoop103 ~]$ cat /opt/module/hadoop-3.1.3/etc/hadoop/core-site.xml
[liudd@hadoop104 ~]$ cat /opt/module/hadoop-3.1.3/etc/hadoop/core-site.xml

三、群起集群

1. 配置workers

[liudd@hadoop102 hadoop]$ vim /opt/module/hadoop-3.1.3/etc/hadoop/workers

# 在该文件中增加如下内容:
hadoop102
hadoop103
hadoop104

注意:该文件中添加的内容结尾不允许有空格,文件中不允许有空行。
同步所有节点配置文件

[liudd@hadoop102 hadoop]$ xsync /opt/module/hadoop-3.1.3/etc

2. 启动集群

  1. 格式化hdfs

如果集群是第一次启动,需要在hadoop102节点格式化NameNode(注意:格式化NameNode,会产生新的集群id,导致NameNode和DataNode的集群id不一致,集群找不到已往数据。
如果集群在运行过程中报错,需要重新格式化NameNode的话,一定要先停止namenode和datanode进程,并且要删除所有机器的data和logs目录,然后再进行格式化。

[liudd@hadoop102 hadoop-3.1.3]$ hdfs namenode -format

image.png

为什么要格式化?
因为每次格式化,所产生的会有本次的版本号
image.png
当集群起不来,可能是因为版本号不匹配造成的!可以先删除data、logs下的信息,再进行格式化。

  1. 启动HDFS
[liudd@hadoop102 hadoop-3.1.3]$ sbin/start-dfs.sh

image.png

  1. 在配置了ResourceManager的节点(hadoop103)启动YARN
[liudd@hadoop103 hadoop-3.1.3]$ sbin/start-yarn.sh

image.png

  1. Web端查看HDFS的NameNode
    4.1 浏览器中输入:http://hadoop102:9870
    4.2 查看HDFS上存储的数据信息
    image.png

  2. Web端查看YARN的ResourceManager
    5.1 浏览器中输入:http://hadoop103:8088
    5.2 查看YARN上运行的Job信息
    image.png

3. 集群基本测试

  1. 上传文件到集群
    上传小文件
[liudd@hadoop102 ~]$ hadoop fs -mkdir /input
[liudd@hadoop102 ~]$ hadoop fs -put $HADOOP_HOME/wcinput/word.txt /input

image.png

上传大文件

[liudd@hadoop102 ~]$ hadoop fs -put  /opt/software/jdk-8u212-linux-x64.tar.gz  /
  1. 上传文件后查看文件存放在什么位置
    查看HDFS文件存储路径
[liudd@hadoop102 subdir0]$ pwd
/opt/module/hadoop-3.1.3/data/dfs/data/current/BP-1436128598-192.168.10.102-1610603650062/current/finalized/subdir0/subdir0

查看HDFS在磁盘存储文件内容

[liudd@hadoop102 subdir0]$ cat blk_1073741825
hadoop yarn
hadoop mapreduce 
liudd
liudd
  1. 拼接
-rw-rw-r--. 1 liudd liudd 134217728 5月  23 16:01 blk_1073741836
-rw-rw-r--. 1 liudd liudd   1048583 5月  23 16:01 blk_1073741836_1012.meta
-rw-rw-r--. 1 liudd liudd  63439959 5月  23 16:01 blk_1073741837
-rw-rw-r--. 1 liudd liudd    495635 5月  23 16:01 blk_1073741837_1013.meta
[liudd@hadoop102 subdir0]$ cat blk_1073741836>>tmp.tar.gz
[liudd@hadoop102 subdir0]$ cat blk_1073741837>>tmp.tar.gz
[liudd@hadoop102 subdir0]$ tar -zxvf tmp.tar.gz

4.下载

[liudd@hadoop104 software]$ hadoop fs -get /jdk-8u212-linux-x64.tar.gz ./
  1. 执行wordcount程序
[liudd@hadoop102 hadoop-3.1.3]$ hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar wordcount /input /output

image.png

Q.E.D.


只有创造,才是真正的享受,只有拚搏,才是充实的生活。