一,kafka是什么 kafka是一个分布式的发布-订阅消息系统,能够支持海量的数据传递,在高效和实时的消息处理业务系统中,kafka都有广泛应用,kafka将消息持久化到磁盘中,并且创建了备份保存了数据的安全,kafka在保证了较高的处理速度的同时,又能保证数据处理的低延迟和数据的零丢失。 二,特 ...
分类:
其他好文 时间:
2020-07-13 11:53:56
阅读次数:
60
1. 一期工程项目技术架构 1)业务驱动 2)问题驱动 2. 二期工程项目技术架构 项目优化原则: 1)优先从架构和程序进行优化 2)考虑增加集群扩容 做任务为什么不适用kafka? 1)此业务用户量还小 2)数据量小 3)使用kafka大材小用,资源浪费 为什么同时使用db和redis 1)用户成 ...
分类:
其他好文 时间:
2020-07-12 00:58:36
阅读次数:
115
topic相关 创建一个名为TEST的topic,分为10部分,每部分副本数量为3 /app/kafka_2.13-2.5.0/bin/kafka-topics.sh --zookeeper 1.1.1.3:2181 --create --topic TEST --partitions 10 --r ...
分类:
其他好文 时间:
2020-07-11 13:12:27
阅读次数:
37
Elastic Stack 包括 Elasticsearch、Kibana、Beats 和 Logstash(也称为 ELK Stack)。能够安全可靠地获取任何来源、任何格式的数据,然后实时地对数据进行搜索、分析和可视化 Elasticsearch 是一个分布式、RESTful 风格的搜索和数据分 ...
分类:
其他好文 时间:
2020-07-11 13:10:58
阅读次数:
60
仅罗列一些常用基本配置,更多配置请到查看 https://www.orchome.com/472 server.properties配置文件 ###kafka服务和系统相关### #broker id,代表当前主机,集群里唯一 broker.id=1 #监听地址和端口,producter、consu ...
分类:
其他好文 时间:
2020-07-11 13:08:02
阅读次数:
51
1 kafka介绍 Kafka是一款性能非常好的并且支持分布式的消息队列中间件由于它的高吞吐特性,Kafka通常使用在大数据领域,如日志收集平台Kafka是一个流处理平台,因为它在工作中就像是一个可以支撑高吞吐量的管道,数据像水一样流进去,然后另外一端再去读取这些数据我们就可以把Kafka看作是一种 ...
分类:
其他好文 时间:
2020-07-11 13:02:34
阅读次数:
55
一、下载zookeeper,kafka,java 1 网盘下载 版本号不能选:zookeeper-3.6.1,kafka_2.13-2.5.0,jdk-8u241 https://pan.baidu.com/share/init?surl=8cYaxW_8gDtM4wR32nH1Sg 提取码:g9g ...
分类:
其他好文 时间:
2020-07-11 13:00:59
阅读次数:
74
Kafka的架构 包括Kafka的基本组成,Kafka的拓扑结构以及Kafka的内部通信协议。Kafka内部的通信协议是建立在Kafka的拓扑结构之上,而Kafka的拓扑结构是由Kafka的基本模块所组成的。 AK RELEASE 2.5.0 APRIL 15, 2020 Kafka的基本组成 Ka ...
分类:
其他好文 时间:
2020-07-10 15:36:48
阅读次数:
51
一、前言 不少Java程序员兄弟,在在应聘一些中大型互联网公司的Java工程师岗位时,经常会遇到如下 困惑。 这些同学说自己也做了精心准备,网上搜集了不少Java面试题。 然而实际去互联网公司面试才发现,人家问的,和你准备的根本对不上号,面试现场经常弥漫 着尴尬的气氛,最后的面试结果也是不言而喻!! ...
分类:
其他好文 时间:
2020-07-10 13:14:48
阅读次数:
72
Kafka 2.6引入的新功能:消费者能够主动触发Rebalance。一直以来,Rebalance的触发都是由Coordinator来执行的,但有些场景下消费者端能够主动触发Rebalance会很有必要。举个例子,在ConsumerPartitionAssignor接口中有个subscription ...
分类:
其他好文 时间:
2020-07-10 11:29:50
阅读次数:
135