« Comment lancer un serveur Kafka » : différence entre les versions

De Wiki du LAMA (UMR 5127)
Aller à la navigation Aller à la recherche
Aucun résumé des modifications
Aucun résumé des modifications
 
(8 versions intermédiaires par le même utilisateur non affichées)
Ligne 2 : Ligne 2 :


Dans cette page nous verrons comment lancer un serveur Kafka. J'utiliserais ici une installation Kafka 2.13-3.4.0 sur une machine Windows 10.
Dans cette page nous verrons comment lancer un serveur Kafka. J'utiliserais ici une installation Kafka 2.13-3.4.0 sur une machine Windows 10.

''Les commandes pour les machines sous Linux sont presques similaires: par exmeple nos fichiers ne seront pas en .bat mains en .sh''


Dans toute la suite de cette page, on considère que l'archive contenant les fichiers serveurs sont dans un fichier 'kafka' dont la chemin est C:\Tool.
Dans toute la suite de cette page, on considère que l'archive contenant les fichiers serveurs sont dans un fichier 'kafka' dont la chemin est C:\Tool.
Ligne 31 : Ligne 33 :
==Recommendation==
==Recommendation==


Il faut d'abords lancer le serveur Zookeeper, puis Kafka. Et pour éteindre les services, on éffectue l'extinction dans le sens inverse: d'abords Kafka puis Zookeeper.
Il faut d'abord lancer le serveur Zookeeper, puis Kafka. Et pour éteindre les services, on éffectue l'extinction dans le sens inverse: d'abords Kafka puis Zookeeper.


Si vous voulez lancer de multiples serveurs, il est alors conseillé de créer des copies des fichiers en .properties en changeant les paramètres.
Si vous voulez lancer de multiples serveurs, il est alors conseillé de créer des copies des fichiers en .properties en changeant les paramètres.
Ligne 40 : Ligne 42 :


===Topic===
===Topic===

Commande pour créer un topic:

: kafka-topics.bat --create --topic NomTopic --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1

Commande pour lister tous les topics:

: kafka-topics.bat --bootstrap-serveur=localhost:9092 --list

Commande pour lister tous les partitions d'un topic:

: kafka-topics.bat --bootstrap-serveur=localhost:9092 --describe --topic NomTopic

Commande pour supprimer un topic:

: kafka-topics.bat --bootstrap-serveur=localhost:9092 --delete --topic NomTopic

'''Attention''': ''La suppression est désactivée par défaut, il faut rajouter dans le fichier de configuration la ligne suivante:<br>delete.topic.enable=true''

===Création d'un Producer===

Pour créer un producer qui enverra des données dans un topic voulu, il faut exécuter la commande suivante:

: kafka-console-producer.bat --broker-list localhost:9092 --topic NomTopic

===Création d'un Consumer===

Pour créer un consumer qui lira des données dans un topic voulu, il faut exécuter la commande suivante:

: kafka-console-consumer.bat --bootstrap-server localhost:9092 --topic NomTopic

Dernière version du 26 mai 2023 à 13:23

Lancement d'un serveur Kafka

Dans cette page nous verrons comment lancer un serveur Kafka. J'utiliserais ici une installation Kafka 2.13-3.4.0 sur une machine Windows 10.

Les commandes pour les machines sous Linux sont presques similaires: par exmeple nos fichiers ne seront pas en .bat mains en .sh

Dans toute la suite de cette page, on considère que l'archive contenant les fichiers serveurs sont dans un fichier 'kafka' dont la chemin est C:\Tool.

Nous ouvrirons alors des invites de commandes dans le répertoire courants suivants:

C:\Tool\kafka\bin\windows

Lancement d'un serveur Zoookeeeper

Pour lancer un serveur Zookeeper, il suffit d'exécuter la commande suivante:

zookeeper-server-start.bat ..\..\config\zookeeper.properties

Pour l'arrêter, faire la commande suivante:

zookeeper-server-stop.bat

Lancement d'un serveur Kafka

Pour lancer un serveur Kafka, il suffit d'exécuter la commande suivante:

kafka-server-start.bat ..\..\config\server.properties

Pour l'arrêter, faire la commande suivante:

kafka-server-stop.bat

Recommendation

Il faut d'abord lancer le serveur Zookeeper, puis Kafka. Et pour éteindre les services, on éffectue l'extinction dans le sens inverse: d'abords Kafka puis Zookeeper.

Si vous voulez lancer de multiples serveurs, il est alors conseillé de créer des copies des fichiers en .properties en changeant les paramètres.

Commandes utiles

Dans cette parties, nous verrons des commandes simples pour l'installation d'un service Kafka.

Topic

Commande pour créer un topic:

kafka-topics.bat --create --topic NomTopic --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1

Commande pour lister tous les topics:

kafka-topics.bat --bootstrap-serveur=localhost:9092 --list

Commande pour lister tous les partitions d'un topic:

kafka-topics.bat --bootstrap-serveur=localhost:9092 --describe --topic NomTopic

Commande pour supprimer un topic:

kafka-topics.bat --bootstrap-serveur=localhost:9092 --delete --topic NomTopic

Attention: La suppression est désactivée par défaut, il faut rajouter dans le fichier de configuration la ligne suivante:
delete.topic.enable=true

Création d'un Producer

Pour créer un producer qui enverra des données dans un topic voulu, il faut exécuter la commande suivante:

kafka-console-producer.bat --broker-list localhost:9092 --topic NomTopic

Création d'un Consumer

Pour créer un consumer qui lira des données dans un topic voulu, il faut exécuter la commande suivante:

kafka-console-consumer.bat --bootstrap-server localhost:9092 --topic NomTopic