Kafka 消费者可以通过设置消息过滤器来选择性地消费某些特定的消息。这可以通过实现 ConsumerInterceptor
接口并在消费者配置中启用该拦截器来实现。以下是一个简单的示例,展示了如何使用 Java 和 Kafka 消费者 API 实现一个基于消息键的过滤器:
- 首先,创建一个实现
ConsumerInterceptor
接口的类,并重写onConsume
方法。在这个方法中,你可以根据需要对消息进行过滤。例如,你可以根据消息键是否包含某个特定字符串来决定是否消费该消息:
import org.apache.kafka.clients.consumer.ConsumerRecord; import org.apache.kafka.clients.consumer.ConsumerRecords; import org.apache.kafka.clients.consumer.ConsumerInterceptor; import org.apache.kafka.common.serialization.StringDeserializer; import java.util.Arrays; import java.util.Properties; public class FilteredConsumerInterceptor implements ConsumerInterceptor{ private final String filterKey; public FilteredConsumerInterceptor(String filterKey) { this.filterKey = filterKey; } @Override public void onConsume(ConsumerRecords records) { for (ConsumerRecord record : records) { if (record.key().contains(filterKey)) { System.out.printf("Consuming message: key = %s, value = https://www.yisu.com/ask/%s, partition = %d, offset = %d%n", record.key(), record.value(), record.partition(), record.offset()); } else { System.out.printf("Filtering message: key = %s, value = https://www.yisu.com/ask/%s, partition = %d, offset = %d%n", record.key(), record.value(), record.partition(), record.offset()); } } } @Override public void onCommitOffsets(Map offsets) { // No-op } @Override public void close() { // No-op } public static void main(String[] args) { Properties props = new Properties(); props.put("bootstrap.servers", "localhost:9092"); props.put("group.id", "filtered-consumer-group"); props.put("key.deserializer", StringDeserializer.class.getName()); props.put("value.deserializer", StringDeserializer.class.getName()); props.put("enable.auto.commit", "false"); ConsumerInterceptor interceptor = new FilteredConsumerInterceptor("filter-key"); props.put("interceptor.classes", FilteredConsumerInterceptor.class.getName()); KafkaConsumer consumer = new KafkaConsumer<>(props); consumer.subscribe(Arrays.asList("my-topic")); // Consume messages while (true) { ConsumerRecords records = consumer.poll(Duration.ofMillis(100)); consumer.commitSync(); } } }
-
在
main
方法中,配置消费者属性并启用拦截器。将filter-key
替换为你想要过滤的键。 -
运行这个程序,消费者将只消费那些消息键包含指定字符串的消息。其他消息将被过滤掉。
注意:这个示例仅适用于 Java 和 Kafka 消费者 API。如果你使用的是其他编程语言或 Kafka 客户端库,实现方式可能会有所不同。但是,基本的过滤逻辑应该是相似的。