要谈ELK的应用,就不得不谈ELK架构。下面介绍几种工程项目中最常用的架构,并讨论四种架构所适合的场景。当然,在实际场景选择架构时,只要能满足当前需求就好,同时现有架构也要有一定的可预见性,为架构的演进预留一定的扩展性。 1. 简单模式(logstash+elasticsearch+kibana) ...
分类:
其他好文 时间:
2021-06-03 17:53:59
阅读次数:
0
引入依赖 <!-- https://mvnrepository.com/artifact/org.springframework.kafka/spring-kafka --> <dependency> <groupId>org.springframework.kafka</groupId> <art ...
分类:
编程语言 时间:
2021-06-02 14:22:43
阅读次数:
0
Kafka宕机引发的高可用问题 问题要从一次Kafka的宕机开始说起。 笔者所在的是一家金融科技公司,但公司内部并没有采用在金融支付领域更为流行的RabbitMQ,而是采用了设计之初就为日志处理而生的Kafka,所以我一直很好奇Kafka的高可用实现和保障。从Kafka部署后,系统内部使用的Kafk ...
分类:
其他好文 时间:
2021-06-02 14:22:26
阅读次数:
0
我们可以设置集群的平衡参数来暂时禁用掉平衡,具体步骤如下: 1.如果可能的话,先暂停掉数据新增和更新操作,这样会提高集群恢复的时间; 2.禁用集群分片平衡操作,直到告诉集群可以恢复平衡操作为止,禁用配置方式: PUT /_cluster/settings { "transient" : { "clu ...
分类:
其他好文 时间:
2021-06-02 12:58:20
阅读次数:
0
I am in a bit of a bind (pun intended). I have a ubuntu server running kafka & zookeeper. This server has both ipv4 and ipv6 protocols installed. In t ...
分类:
其他好文 时间:
2021-06-02 12:29:05
阅读次数:
0
前期准备 docker环境... 0_镜像_查询 [root@iZ2zeca7jric8sx4f3n7spZ ~]# docker search elasticsearch NAME DESCRIPTION STARS OFFICIAL AUTOMATED elasticsearch Elastic ...
分类:
其他好文 时间:
2021-06-02 12:27:50
阅读次数:
0
Kafka Exactly Once语义 精准一次: 将服务器的ACK级别设置为-1,可以保证Producer到Server之间不会丢失数据,即At Least Once语义。相对的,将服务器ACK级别设置为0,可以保证生产者每条消息只会被发送一次,即At Most Once语义。 At Least ...
分类:
其他好文 时间:
2021-06-02 12:21:04
阅读次数:
0
面试题: 1)Kafka中的ISR(InSyncRepli)、OSR(OutSyncRepli)、AR(AllRepli)代表什么? 2)Kafka中的HW、LEO等分别代表什么? 3)Kafka中是怎么体现消息顺序性的? 4)Kafka中的分区器、序列化器、拦截器是否了解?它们之间的处理顺序是什么 ...
分类:
其他好文 时间:
2021-06-02 12:19:54
阅读次数:
0
Kafka概述 Kafka是一个基于发布、订阅的分布式消息队列,用于大数据实时处理。 为什么要用kafka? 注册信息的过程,先在网站上填写注册信息,后台会调用其他服务的接口,反馈给网页注册成功信息,最后再显示给用户,并且将短信发送给用户,该过程为同步通信过程,需要同步等待,由于同步通信的过程比较慢 ...
分类:
其他好文 时间:
2021-06-02 12:12:15
阅读次数:
0
超过最大分片引起的,在es机器上执行:curl -XPUT -H "Content-Type:application/json" -d '{"persistent":{"cluster":{"max_shards_per_node":10000}}}' 'http://es-host:9200/_c ...
分类:
其他好文 时间:
2021-05-25 17:41:51
阅读次数:
0