ELK--使用redis与logstash结合收集数据
分类：
其他好文 时间：
2020-11-18 12:15:15
阅读次数：
5
1. 产品的架构是数据采集到 kafka，由 flink 读取，送入ES 2. 这个过程中，涉及： kafka分区数，flink并行度，ES 分区数和副本 3. kafka 分区数决定了后面 flink 的并行度，最好是 kafka 的分区数和 flink 的并行度一致 4. 写入 ES 时，需要先 ...
分类：
其他好文 时间：
2020-11-16 14:01:57
阅读次数：
18
ELK----安装#!/bin/bash######部署elasticsearch软件####yuminstall-yexpectmkdir/abc/usr/bin/expect<<-EOFspawnmount.cifs//192.168.1.150/redhat7/abcexpect"*redhat7*"{send"123456\r"}expecteofEOF#1.安装elastic
分类：
其他好文 时间：
2020-11-16 13:05:56
阅读次数：
5
准备两个linux宿主机- linux-node1: Elasticsearch + Logstash + Kibana linux-node2: Logstash + redis linux-node1 安装 ELK 配置logstash将redis数据送给ES [root@linux-node1 ...
分类：
其他好文 时间：
2020-11-12 13:59:11
阅读次数：
7
作用 以前都是登陆到每个机器去看日志，特别是一个服务有多个机器集群部署，还要下载多个机器的日志(运维下载日志，然后给开发排查问题)，现在elk是集中式日志系统，所有的项目和项目集群都在一个日志系统里，而且可以搜索。 界面 组成 L是收集日志，还有解析日志 E是搜索引擎，就是ElasticSearch ...
分类：
其他好文 时间：
2020-11-11 15:48:34
阅读次数：
5
RabbitMQ的基本使用 一、引言 模块之间的耦合度多高，导致一个模块宕机后，全部功能都不能用了， 并且同步通讯的成本过高，用户体验差。 RabbitMQ引言 二、RabbitMQ介绍 市面上比较火爆的几款MQ： ActiveMQ，RocketMQ，Kafka，RabbitMQ。 语言的支持：Ac ...
分类：
其他好文 时间：
2020-11-07 17:04:31
阅读次数：
25
1、为什么Kafka有很高的吞吐量？ 1、分区设计，分区分散在多个服务器中实现水平扩展 2、批量写入和读出，查看在kafka的实现会发现，kafka写入和读出的单位是一个消息集合，而不是单条消息 2、分区可以随时增加或减少吗？ 不可以，在设计一个topic时要考虑具体需要多少分区，一旦决定好就不能改 ...
分类：
其他好文 时间：
2020-11-06 01:44:21
阅读次数：
14
知乎基于Kubernetes的kafka平台的设计和实现我是知乎技术中台工程师，负责知乎存储相关的组件。我的分享主要基于三个，第一，简单介绍一下Kafka在知乎的应用，第二，为什么做基于Kubernetes的Kafka平台。第三，我们如何去实现基于Kubernetes的kafka平台。Kafka在知乎的应用Kafka是一个非常优秀的消息或者数据流的组件，在知乎承载了日志、数据收集、消息队列等服务，
分类：
Web程序 时间：
2020-11-06 01:08:22
阅读次数：
22
在讲kafka使用之前，可以简要介绍一下安装local版本： 在linux下安装本地版（localhost）： 1. 首先下载 kafka：http://kafka.apache.org/downloads 2. 其次解压（命令：tar -xzf kafka_2.12-2.6.0.tgz）到某个文件 ...
分类：
其他好文 时间：
2020-11-02 10:46:16
阅读次数：
36
Kafka 是一个优秀的分布式消息中间件，许多系统中都会使用到 Kafka 来做消息通信。对分布式消息系统的了解和使用几乎成为一个后台开发人员必备的技能。今天就从常见的 Kafka 面试题入手，和大家聊聊 Kafka 的那些事儿。
分类：
其他好文 时间：
2020-11-02 09:47:04
阅读次数：
18
