要在CentOS 7上安装Hadoop,可以按照以下步骤进行操作:
-
安装Java Development Kit(JDK):
- 在终端中运行以下命令以安装OpenJDK 8:复制
sudo yum install java-1.8.0-openjdk-devel
- 在终端中运行以下命令以安装OpenJDK 8:
-
创建Hadoop用户:
- 运行以下命令以创建一个名为hadoop的新用户:复制
sudo adduser hadoop
- 设置hadoop用户的密码:复制
sudo passwd hadoop
- 运行以下命令以创建一个名为hadoop的新用户:
-
下载和解压缩Hadoop:
- 在
/opt
目录下创建一个新目录:复制sudo mkdir /opt/hadoop
- 进入该目录:复制
cd /opt/hadoop
- 下载Hadoop压缩包:复制
sudo wget https://downloads.apache.org/hadoop/common/hadoop-3.3.1/hadoop-3.3.1.tar.gz
- 解压缩压缩包:复制
sudo tar -xzvf hadoop-3.3.1.tar.gz
- 将解压缩的文件夹重命名为
hadoop
:复制sudo mv hadoop-3.3.1 hadoop
- 在
-
配置环境变量:
- 编辑
/etc/profile
文件:复制sudo vi /etc/profile
- 在文件的末尾添加以下内容:复制
export HADOOP_HOME=/opt/hadoop/hadoop export PATH=$PATH:$HADOOP_HOME/bin
- 保存并关闭文件。
- 更新配置:复制
source /etc/profile
- 编辑
-
配置Hadoop:
- 进入Hadoop配置目录:复制
cd /opt/hadoop/hadoop/etc/hadoop
- 编辑
hadoop-env.sh
文件:复制sudo vi hadoop-env.sh
- 设置JAVA_HOME变量为Java安装路径:复制
export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk
- 保存并关闭文件。
- 进入Hadoop配置目录:
-
配置Hadoop的核心文件:
- 编辑
core-site.xml
文件:复制sudo vi core-site.xml
- 添加以下配置:复制
fs.defaultFS hdfs://localhost:9000 - 保存并关闭文件。
- 编辑
-
配置Hadoop的HDFS文件系统:
- 编辑
hdfs-site.xml
文件:复制sudo vi hdfs-site.xml
- 添加以下配置:复制
dfs.replication 1 - 保存并关闭文件。
- 编辑
-
配置Hadoop的YARN资源管理器:
- 编辑
yarn-site.xml
文件:复制sudo vi yarn-site.xml
- 添加以下配置:复制
yarn.nodemanager.aux-services mapreduce_shuffle yarn.nodemanager.aux-services.mapreduce.shuffle.class org.apache.hadoop.mapred.ShuffleHandler - 保存并关闭文件。
- 编辑
-
配置Hadoop的MapReduce框架:
- 编辑
mapred-site.xml
文件:复制sudo vi mapred-site.xml
- 添加以下配置:复制
mapreduce.framework.name yarn - 保存并关闭文件。
- 编辑
-
设置Hadoop的数据目录权限:
- 创建Hadoop数据目录:复制
sudo mkdir -p /opt/hadoop/data/hdfs/namenode sudo mkdir -p /opt/hadoop/data/hdfs/datanode
- 修改数据目录的权限:复制
sudo chown -R hadoop:hadoop /opt/h
- 创建Hadoop数据目录: