Kafka宕机引发的高可用问题 问题要从一次Kafka的宕机开始说起。 笔者所在的是一家金融科技公司，但公司内部并没有采用在金融支付领域更为流行的RabbitMQ，而是采用了设计之初就为日志处理而生的Kafka，所以我一直很好奇Kafka的高可用实现和保障。从Kafka部署后，系统内部使用的Kafk ...
分类：
其他好文 时间：
2021-06-02 14:22:26
阅读次数：
0
一、大数据分析工具——Hadoop Hadoop是一个能够对大量数据进行分布式处理的软件框架。但是Hadoop是以一种可靠、高效、可伸缩的方式进行处理的。Hadoop是可靠的，因为它假设计算元素和存储会失败，因此它维护多个工作数据副本，确保能够针对失败的节点重新分布处理。Hadoop是高效的，因为它 ...
分类：
其他好文 时间：
2021-06-02 13:17:23
阅读次数：
0
简介： 本文将会介绍Hologres基于roaringbitmap实现超高基数的UV计算 RoaringBitmap是一种压缩位图索引，RoaringBitmap自身的数据压缩和去重特性十分适合对于大数据下uv计算。其主要原理如下： 对于32bit数, RoaringBitmap会构造2^16个桶 ...
分类：
其他好文 时间：
2021-06-02 13:11:42
阅读次数：
0
我们可以设置集群的平衡参数来暂时禁用掉平衡，具体步骤如下： 1.如果可能的话，先暂停掉数据新增和更新操作，这样会提高集群恢复的时间； 2.禁用集群分片平衡操作，直到告诉集群可以恢复平衡操作为止，禁用配置方式： PUT /_cluster/settings { "transient" : { "clu ...
分类：
其他好文 时间：
2021-06-02 12:58:20
阅读次数：
0
I am in a bit of a bind (pun intended). I have a ubuntu server running kafka & zookeeper. This server has both ipv4 and ipv6 protocols installed. In t ...
分类：
其他好文 时间：
2021-06-02 12:29:05
阅读次数：
0
Kafka Exactly Once语义 精准一次: 将服务器的ACK级别设置为-1,可以保证Producer到Server之间不会丢失数据，即At Least Once语义。相对的，将服务器ACK级别设置为0，可以保证生产者每条消息只会被发送一次，即At Most Once语义。 At Least ...
分类：
其他好文 时间：
2021-06-02 12:21:04
阅读次数：
0
面试题: 1）Kafka中的ISR(InSyncRepli)、OSR(OutSyncRepli)、AR(AllRepli)代表什么？ 2）Kafka中的HW、LEO等分别代表什么？ 3）Kafka中是怎么体现消息顺序性的？ 4）Kafka中的分区器、序列化器、拦截器是否了解？它们之间的处理顺序是什么 ...
分类：
其他好文 时间：
2021-06-02 12:19:54
阅读次数：
0
目标 安全 稳定 廉价 快速 容灾 扩展 服务器 基础数据 腾讯云 2核 8GB 5Mbps 安全组配置 开放80、443，允许全部ip访问 开放22、6443，开放当前ip访问 环境 # 卸载firewalld，由安全组统一管理端口 sudo dnf remove firewalld # 关闭交换 ...
分类：
其他好文 时间：
2021-06-02 12:19:37
阅读次数：
0
Kafka概述 Kafka是一个基于发布、订阅的分布式消息队列,用于大数据实时处理。 为什么要用kafka? 注册信息的过程,先在网站上填写注册信息,后台会调用其他服务的接口,反馈给网页注册成功信息,最后再显示给用户,并且将短信发送给用户,该过程为同步通信过程,需要同步等待，由于同步通信的过程比较慢 ...
分类：
其他好文 时间：
2021-06-02 12:12:15
阅读次数：
0
Nosql概述： 大数据时代，一般的数据库无法支撑 为什么要用NoSQL 用户的个人信息，社交网络，地理位置，用户自己产生的数据，用户的日志等等爆发式增长！ 这时候我们需要使用NoSQL数据库，可以很好的处理以上情况 什么是NoSQL NoSQL = Not Only SQL泛指非关系型数据库 No ...
分类：
其他好文 时间：
2021-06-02 11:55:43
阅读次数：
0
