标签：color kafka 客户端 conf 取消 发送 consumer 图片 架构
Kafka是最初由Linkedin公司开发，是一个分布式、分区的、多副本的、多订阅者，基于zookeeper协调的分布式日志系统（也可以当做MQ系统），常见可以用于web/nginx日志、访问日志，消息服务等等，Linkedin于2010年贡献给了Apache基金会并成为顶级开源项目。
主要应用场景是：日志收集系统和消息系统。
Kafka是一个分布式集群，内部有很多server组成，这些server称为blocker（中间商），blocker管理数据时，会对数据进行分区操作。
因为一个Kafka集群会对很多子系统进行服务，不同子系统发送的消息需要进行区分，则可以通过topics主题进行区分。 而每一个topic中的消息都会进行分区，例如：partition1、partition2.....通过分区可以进行负载均衡。将各个分区可以放入到不同的server中，可以进行负载均衡。
1：kafka是一个分布式的消息缓存系统 2：kafka集群中的服务器都叫做broker 3：kafka有两类客户端，一类叫producer（消息生产者），一类叫做consumer（消息消费者），客户端和broker服务器之间采用tcp协议连接 4：kafka中不同业务系统的消息可以通过topic进行区分，而且每一个消息topic都会被分区，以分担消息读写的负载 5：每一个分区都可以有多个副本，以防止数据的丢失 6：某一个分区中的数据如果需要更新，都必须通过该分区所有副本中的leader来更新 7：消费者可以分组，比如有两个消费者组A和B，共同消费一个topic：order_info,A和B所消费的消息不会重复 比如 order_info 中有100个消息，每个消息有一个id,编号从0-99，那么，如果A组消费0-49号，B组就消费50-99号 8：消费者在具体消费某个topic中的消息时，可以指定起始偏移量（例如：在消费某个消息时，中途故障，那么下一次可以指定起始偏移量，接着之前的数据下载）
1、解压 2、修改server.properties broker.id=1 注意：每一个节点的id都应该唯一 zookeeper.connect=hadoopH5:2181,hadoopH6:2181,hadoopH7:2181 3、将zookeeper集群启动 4、在每一台节点上启动broker bin/kafka-server-start.sh config/server.properties
zkCli.sh
ls /brokers/ids
5、在kafka集群中创建一个topic bin/kafka-topics.sh --create --zookeeper hadoopH5:2181 --replication-factor 3 --partitions 1 --topic order
注意：副本数不能大于启动节点数。我们这里启动3节点，所有设置副本3.分区1（分区越少，顺序性越强）
可以使用 bin/kafka-topics.sh --list --zookeeper hadoopH5:2181来查看集群topic
6、用一个producer向某一个topic中写入消息 bin/kafka-console-producer.sh --broker-list hadoopH5:9092 --topic order
7、用一个comsumer从某一个topic中读取信息 bin/kafka-console-consumer.sh --zookeeper hadoopH5:2181 --from-beginning --topic order
8、查看一个topic的分区及副本状态信息 bin/kafka-topics.sh --describe --zookeeper hadoopH5:2181 --topic order
标签：color kafka 客户端 conf 取消 发送 consumer 图片 架构
原文地址：https://www.cnblogs.com/ssyfj/p/12430916.html
