Kafka最早是由LinkedIn公司开发的，作为其自身业务消息处理的基础，后LinkedIn公司将Kafka捐赠给Apache，现在已经成为Apache的一个顶级项目了，Kafka作为一个高吞吐的分布式的消息系统，目前已经被很多公司应用在实际的业务中了，并且与许多数据处理框架相结合，比如Hadoo ...
分类：
其他好文 时间：
2021-07-26 16:51:13
阅读次数：
0
kafka reassign过程详见：reassign过程 最近kafka集群发生reassign过程卡住的情况，问题发生过程如下 问题日志 2021-07-16 10:35:41,193 INFO kafka.controller.KafkaController: [Controller id=3 ...
分类：
其他好文 时间：
2021-07-19 16:41:55
阅读次数：
0
数据积压指的是消费者因为一些外部的IO、一些比较耗时的操作（full GC--stop the world），就会造成消息在partition中一直存在得不到消费，就会产生数据积压。 所以需要监控系统（kafka的监控系统Eagle），如果出现这种情况，需要尽快处理，虽然后续的spark strea ...
分类：
其他好文 时间：
2021-07-13 17:40:18
阅读次数：
0
首先： ELK 是 Elasticsearch、Logstash、Kibana开源软件的集合，对外是作为一个日志管理系统的开源方案，它可以从任何来源、任何格式进行日志搜索、分析与可视化展示。 Logstash：日志收集工具，可以从本地磁盘，网络服务（自己监听端口，接受用户日志），消息队列中收集各种各 ...
分类：
编程语言 时间：
2021-07-12 18:25:34
阅读次数：
0
1. 日志文件格式包含以下四列： 事件时间 | 发生事件的服务器的主机名 | 产生事件的服务名或程序名 | 事件的具体信息 2. /etc/rsyslog.conf 配置文件 # 服务名称 [连接符号] 日志等级 日志记录位置 authpriv.* /var/log/auth.log # 认证相关服 ...
分类：
系统相关 时间：
2021-07-06 16:25:48
阅读次数：
0
Rsyslog简介 Rsyslog的全称是 rocket-fast system for log，它提供了高性能，高安全功能和模块化设计。rsyslog能够接受从各种各样的来源，将其输入，输出的结果到不同的目的地。rsyslog可以提供超过每秒一百万条消息给目标文件。 日志是任何软件或操作系统的关键 ...
分类：
系统相关 时间：
2021-07-05 19:06:35
阅读次数：
0
1.首先安装JAVA环境 2.下载链接 wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.3.2.deb wget https://artifacts.elastic.co/downloads/elas ...
分类：
系统相关 时间：
2021-07-05 17:46:31
阅读次数：
0
?简介： 我们在几年前决定引入 MQ 时，市场上已经有不少成熟的解决方案，比如 RabbitMQ , ActiveMQ，NSQ，Kafka 等。考虑到稳定性、维护成本、公司技术栈等因素，我们选择了 RocketMQ。 ? 背景介绍 ? 为何选择 RocketMQ ? 我们在几年前决定引入 MQ 时， ...
分类：
其他好文 时间：
2021-07-02 16:09:00
阅读次数：
0
https://kafka.apachecn.org/intro.html 一、kafka能做什么？ 构造实时流数据管道，它可以在系统或应用之间可靠地获取数据。 (相当于message queue) 构建实时流式应用程序，对这些流数据进行转换或者影响。 (就是流处理，通过kafka stream t ...
分类：
其他好文 时间：
2021-07-01 17:05:23
阅读次数：
0
kafka它们属于消息队列；celery它们属于任务队列。 消息队列和任务队列，最大的不同之处就在于理念的不同 -- 消息队列传递的是“消息”，任务队列传递的是“任务”。 我们可以放到具体的应用场景上: 消息队列用来快速消费队列中的消息。比如日志处理场景，我们需要把不同服务器上的日志合并到一起，这时 ...
分类：
其他好文 时间：
2021-06-30 18:33:26
阅读次数：
0
