快捷導(dǎo)航

Kafka中Producer和Consumer的作用詳解

更新時間：2023年12月05日 09:45:59 作者：楊熒

這篇文章主要介紹了Kafka中Producer和Consumer的作用詳解,Kafka是一個分布式的流處理平臺,它的核心是消息系統(tǒng),Producer是Kafka中用來將消息發(fā)送到Broker的組件之一,它將消息發(fā)布到主題,并且負責(zé)按照指定的分區(qū)策略將消息分配到對應(yīng)的分區(qū)中,需要的朋友可以參考下

一、Producer

Kafka是一個分布式的流處理平臺，它的核心是消息系統(tǒng)。Producer是Kafka中用來將消息發(fā)送到Broker的組件之一。它將消息發(fā)布到主題（topic），并且負責(zé)按照指定的分區(qū)策略將消息分配到對應(yīng)的分區(qū)中。

下面是使用Java語言編寫的Kafka Producer示例代碼：

import org.apache.kafka.clients.producer.*;
import java.util.Properties;
public class MyKafkaProducer {
    public static void main(String[] args) {
        Properties props = new Properties();
        props.put("bootstrap.servers", "localhost:9092"); // Kafka集群地址
        props.put("acks", "all"); // 所有副本都響應(yīng)了才認為發(fā)送成功
        props.put("retries", 0); // 發(fā)送失敗時重試次數(shù)
        props.put("batch.size", 16384); // 緩沖區(qū)大小
        props.put("linger.ms", 1); // 延遲1ms發(fā)送以便等待更多的消息
        props.put("buffer.memory", 33554432); // 緩存總量
        // key和value序列化方式，這里使用默認的StringSerializer
        props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer");
        props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer");
        Producer<String, String> producer = new KafkaProducer<>(props);
        for (int i = 0; i < 10; i++) {
            producer.send(new ProducerRecord<>("test_topic", Integer.toString(i), "hello world" + i));
        }
        producer.close();
    }
}

上述代碼中，我們先設(shè)置了Kafka集群地址、消息確認方式等參數(shù)。

然后使用這些參數(shù)創(chuàng)建一個KafkaProducer實例，并通過send方法發(fā)送消息到指定的主題。

在這個例子中，我們將10條帶有字符串"hello world"的消息發(fā)送到名為"test_topic"的主題中。最后別忘了關(guān)閉producer連接。

二、Consumer

Kafka是一個分布式流媒體平臺，其中Consumer是Kafka中消費數(shù)據(jù)的組件之一。

Kafka Consumer可以訂閱一個或多個Topic，并從這些Topic中消費消息。

Kafka Consumer可以以不同的方式處理消息，例如將其寫入到數(shù)據(jù)庫、打印出來或進行其他自定義處理。

Kafka Consumer使用一組API來與Kafka Broker通信，并接收Broker返回的數(shù)據(jù)。

在接收到數(shù)據(jù)后，Consumer會將其提交給應(yīng)用程序，由應(yīng)用程序進一步處理。

以下是一個使用Java編寫的Kafka Consumer樣例代碼：

import org.apache.kafka.clients.consumer.Consumer;
import org.apache.kafka.clients.consumer.ConsumerConfig;
import org.apache.kafka.clients.consumer.ConsumerRecords;
import org.apache.kafka.clients.consumer.KafkaConsumer;
import org.apache.kafka.common.serialization.StringDeserializer;
import java.time.Duration;
import java.util.Collections;
import java.util.Properties;
public class KafkaConsumerExample {
    public static void main(String[] args) {
        Properties props = new Properties();
        props.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, "localhost:9092");
        props.put(ConsumerConfig.GROUP_ID_CONFIG, "test-group");
        props.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class.getName());
        props.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class.getName());
        Consumer<String, String> consumer = new KafkaConsumer<>(props);
        consumer.subscribe(Collections.singletonList("test-topic"));
        while (true) {
            ConsumerRecords<String, String> records = consumer.poll(Duration.ofMillis(100));
            for (ConsumerRecord<String, String> record : records) {
                System.out.printf("Received message: key=%s value=%s%n", record.key(), record.value());
            }
        }
    }
}

在這個樣例代碼中，我們首先創(chuàng)建了一個Properties對象，其中包含連接Kafka Broker所需的配置信息。

然后，我們創(chuàng)建了一個Kafka Consumer實例，并訂閱了名為“test-topic”的Topic。

最后，在while循環(huán)中，我們使用poll()方法從Broker獲取消息，并在控制臺上打印出每條消息的鍵和值。