centos中hdfs怎样配置

在CentOS系统中配置HDFS（Hadoop分布式文件系统）涉及多个步骤，包括安装Hadoop、配置Hadoop环境变量、设置HDFS相关参数等。以下是一个基本的配置指南：

1. 安装Hadoop

首先，你需要下载并安装Hadoop。你可以从Apache Hadoop官方网站下载最新版本的Hadoop。

wget https://downloads.apache.org/hadoop/common/hadoop-3.3.4/hadoop-3.3.4.tar.gz
tar -xzvf hadoop-3.3.4.tar.gz -C /opt/

然后，将Hadoop目录移动到一个合适的位置：

mv /opt/hadoop-3.3.4 /opt/hadoop

2. 配置Hadoop环境变量

编辑/etc/profile.d/hadoop.sh文件，添加以下内容：

export HADOOP_HOME=/opt/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

使环境变量生效：

source /etc/profile.d/hadoop.sh

3. 配置HDFS

3.1 配置core-site.xml

编辑$HADOOP_HOME/etc/hadoop/core-site.xml文件，添加以下内容：

    
        fs.defaultFS
        hdfs://your_namenode_host:9000
    

将your_namenode_host替换为你的NameNode主机名或IP地址。

3.2 配置hdfs-site.xml

编辑$HADOOP_HOME/etc/hadoop/hdfs-site.xml文件，添加以下内容：

    
        dfs.replication
        3
    
    
        dfs.namenode.name.dir
        /opt/hadoop/data/namenode
    
    
        dfs.datanode.data.dir
        /opt/hadoop/data/datanode
    
    
        dfs.permissions.enabled
        false
    

确保/opt/hadoop/data/namenode和/opt/hadoop/data/datanode目录存在，如果不存在，可以手动创建：

mkdir -p /opt/hadoop/data/namenode
mkdir -p /opt/hadoop/data/datanode

3.3 配置yarn-site.xml

编辑$HADOOP_HOME/etc/hadoop/yarn-site.xml文件，添加以下内容：

    
        yarn.nodemanager.aux-services
        mapreduce_shuffle
    
    
        yarn.nodemanager.aux-services.mapreduce.shuffle.class
        org.apache.hadoop.mapred.ShuffleHandler
    

3.4 配置mapred-site.xml

编辑$HADOOP_HOME/etc/hadoop/mapred-site.xml文件，添加以下内容：

    
        mapreduce.framework.name
        yarn
    

4. 格式化NameNode

在第一次启动HDFS之前，你需要格式化NameNode：

hdfs namenode -format

5. 启动HDFS

启动HDFS集群：

start-dfs.sh

6. 验证HDFS

检查HDFS是否正常运行：

hdfs dfsadmin -report

你应该能看到NameNode和DataNode的状态信息。

7. 配置防火墙

确保防火墙允许Hadoop使用的端口（默认是9000、50010、50020、50070、50075、50090）：

firewall-cmd --permanent --zone=public --add-port=9000/tcp
firewall-cmd --permanent --zone=public --add-port=50010/tcp
firewall-cmd --permanent --zone=public --add-port=50020/tcp
firewall-cmd --permanent --zone=public --add-port=50070/tcp
firewall-cmd --permanent --zone=public --add-port=50075/tcp
firewall-cmd --permanent --zone=public --add-port=50090/tcp
firewall-cmd --reload

8. 配置SSH无密码登录

为了方便集群管理，你可以配置SSH无密码登录：

ssh-keygen -t rsa
ssh-copy-id hadoop@your_namenode_host

将your_namenode_host替换为你的NameNode主机名或IP地址。

完成以上步骤后，你的HDFS集群应该已经成功配置并运行。