在CentOS上安装Hadoop的步骤如下:
-
准备工作:
- 确保操作系统为CentOS 7/8或更高版本。
- 安装JDK 8,配置环境变量。
- 配置SSH,确保节点之间可以通过SSH无密码登录。
-
下载并解压Hadoop:
- 从Apache Hadoop官方网站下载最新版本的Hadoop(例如Hadoop 3.3.1)。
- 使用wget命令下载并解压:
wget https://downloads.apache.org/hadoop/common/hadoop-3.3.1/hadoop-3.3.1.tar.gz tar -xzvf hadoop-3.3.1.tar.gz sudo mv hadoop-3.3.1 /usr/local/hadoop
-
配置环境变量:
- 编辑
/etc/profile
文件,添加以下内容:export HADOOP_HOME=/usr/local/hadoop export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
- 使配置生效:
source /etc/profile
- 编辑
-
配置Hadoop主要配置文件:
- 编辑
/usr/local/hadoop/etc/hadoop/core-site.xml
,配置HDFS的默认URI:fs.defaultFS hdfs://localhost:9000 - 编辑
/usr/local/hadoop/etc/hadoop/hdfs-site.xml
,配置HDFS的存储目录和副本数:dfs.replication 1 dfs.namenode.name.dir /usr/local/hadoop/hdfs/namenode dfs.datanode.data.dir /usr/local/hadoop/hdfs/datanode
- 编辑
-
启动Hadoop服务:
- 格式化NameNode:
hdfs namenode -format
- 启动HDFS和YARN服务:
start-dfs.sh start-yarn.sh
- 格式化NameNode:
-
验证安装:
- 使用以下命令检查Hadoop是否正常运行:
jps
- 在浏览器中访问Hadoop的Web UI(例如:http://localhost:8088)查看运行状态。
- 使用以下命令检查Hadoop是否正常运行:
这些步骤涵盖了在CentOS上安装和配置Hadoop的基本流程,确保系统能够正常运行并处理数据。