117.info
人生若只如初见

如何在Linux上搭建Kafka测试环境

在Linux上搭建Kafka测试环境需要以下几个步骤:

1. 安装Java环境

Kafka需要Java运行环境,确保已经安装了Java。可以使用以下命令检查Java是否已安装:

java -version

如果没有安装Java,可以使用以下命令安装OpenJDK:

  • 在Ubuntu上:

    sudo apt update
    sudo apt install openjdk-8-jdk
    
  • 在CentOS上:

    sudo yum install java-1.8.0-openjdk-devel
    

安装完成后,检查Java是否安装成功:

java -version

2. 下载并解压Kafka

从Kafka官网下载最新版本的Kafka,然后解压到指定目录。例如,下载Kafka 3.5.2版本:

wget https://downloads.apache.org/kafka/3.5.2/kafka_2.12-3.5.2.tgz

解压Kafka安装包:

tar -xvzf kafka_2.12-3.5.2.tgz

解压后,进入解压得到的文件夹:

cd kafka_2.12-3.5.2

3. 配置Zookeeper(如果使用Kafka 2.8.0及以上版本)

Kafka 2.8.0及以上版本不再依赖外部Zookeeper,但需要配置内部的Zookeeper实例。可以在config/zookeeper.properties文件中查看和修改Zookeeper的配置。默认配置通常是可以使用的,你可以根据需要进行修改。

4. 配置Kafka

编辑Kafka的配置文件config/server.properties,设置以下参数:

  • broker.id: 为每个节点分配一个唯一的ID。
  • listeners: 设置监听地址和端口,默认是9092。
  • log.dirs: 设置日志存储路径。

例如:

broker.id=0
listeners=PLAINTEXT://:9092
log.dirs=/tmp/kafka-logs

5. 配置环境变量

编辑系统环境变量文件,例如/etc/profile,添加以下内容:

export KAFKA_HOME=/path/to/kafka
export PATH=$PATH:$KAFKA_HOME/bin

保存文件并执行以下命令使环境变量生效:

source /etc/profile

6. 启动Zookeeper和Kafka服务

首先启动Zookeeper服务:

bin/zookeeper-server-start.sh config/zookeeper.properties

然后在另一个终端中启动Kafka服务:

bin/kafka-server-start.sh config/server.properties

7. 创建和测试Kafka主题

创建一个名为test-topic的主题:

bin/kafka-topics.sh --create --topic test-topic --bootstrap-server localhost:9092 --partitions 1 --replication-factor 1

查看已创建的主题:

bin/kafka-topics.sh --list --bootstrap-server localhost:9092

启动生产者向主题发送消息:

bin/kafka-console-producer.sh --topic test-topic --bootstrap-server localhost:9092

启动消费者从主题读取消息:

bin/kafka-console-consumer.sh --topic test-topic --from-beginning --bootstrap-server localhost:9092

切换到生产者启动页面,发送数据,消费者能正常接收数据,表示搭建成功。

未经允许不得转载 » 本文链接:https://www.117.info/ask/fee86AzsKCQVRDVE.html

推荐文章

  • Linux中copendir的使用场景

    在Linux中,copendir()函数用于打开一个目录流,以便后续使用其他相关函数(如readdir()、closedir()等)来读取目录中的内容。copendir()的使用场景主要包括以下...

  • GitLab在Linux上如何进行自定义脚本编写

    在Linux上为GitLab编写自定义脚本,通常是为了自动化某些任务,比如部署应用程序、发送通知、监控系统状态等。以下是一些基本步骤和示例,帮助你在GitLab CI/CD管...

  • Linux中OpenSSL如何安装

    在Linux系统中,安装OpenSSL通常可以通过包管理器来完成。以下是在不同Linux发行版上安装OpenSSL的步骤:
    对于基于Debian的系统(如Ubuntu): 打开终端。<...

  • Linux JS日志如何监控

    在Linux系统中,监控JavaScript日志可以通过多种命令行工具实现。以下是一些常用的方法和工具:
    使用 tail 命令
    tail 命令是实时查看日志文件末尾内容...

  • Debian环境下如何临时设置环境变量

    在Debian环境下,你可以通过以下方法临时设置环境变量: 对于单个用户: 打开终端,然后输入以下命令,将YOUR_VARIABLE_NAME替换为你想要设置的环境变量名称,将...

  • Ubuntu网络设置怎么配置

    在Ubuntu系统中配置网络可以通过几种不同的方法进行,具体取决于你的需求和偏好。以下是几种常见的网络配置方法:
    使用NetworkManager图形界面配置 打开网络...

  • 如何利用CentOS HDFS进行大数据分析

    利用CentOS上的HDFS(Hadoop Distributed File System)进行大数据分析,可以按照以下步骤进行:
    1. 安装和配置Hadoop集群 安装依赖包:在CentOS上安装必要...

  • ubuntu deluser删除用户前准备

    在Ubuntu系统中,使用deluser命令删除用户之前,需要做好一些准备工作,以确保删除过程顺利进行并避免潜在的数据丢失。以下是一些关键步骤:
    1. 备份重要数...