标签：不执行 令牌 数据文件 ref 解决 失败 指定 生产者 mpi
分布式分为分布式缓存（Redis）、分布式锁（Redis 或 Zookeeper）、分布式服务（Dubbo 或 SpringCloud）、分布式服务协调（Zookeeper）、分布式消息队列（Kafka 、RabbitMq）、分布式 Session 、分布式事务、分布式搜索（Elasticsearch）等。不可能所有分布式内容都熟悉，一定要在某个领域有所专长。
CAP 、BASE。分布式 CAP 理论，任何一个分布式系统都无法同时满足 Consistency（一致性）、Availability（可用性）、Partition tolerance（分区容错性） 这三个基本需求。最多只能满足其中两项。而 Partition tolerance（分区容错性） 是必须的，因此一般是 CP ，或者 AP。
数据一致性通常指关联数据之间的逻辑关系是否正确和完整。在分布式系统中，数据一致性往往指的是由于数据的复制，不同数据节点中的数据内容是否完整并且相同。
一致性还分为强一致性，弱一致性，还有最终一致性。强一致性就是马上就保持一致。 最终一致性是指经过一段时间后，可以保持一致。
分布式事务是指会涉及到操作多个数据库的事务。目的是为了保证分布式系统中的数据一致性。分布式事务类型：二阶段提交 2PC ，三阶段提交 3PC。
2PC ：第一阶段：准备阶段（投票阶段）和第二阶段：提交阶段（执行阶段）。
3PC ：三个阶段：CanCommit 、PreCommit 、DoCommit。
分布式事务解决方案：补偿机制 TCC 、XA 、消息队列 MQ。
T（Try）锁资源：锁定某个资源，设置一个预备类的状态，冻结部分数据。
比如，订单的支付状态，先把状态修改为"支付中（PAYING）"。
比如，本来库存数量是 100 ，现在卖出了 2 个，不要直接扣减这个库存。在一个单独的冻结库存的字段，比如 prepare _ remove _ stock 字段，设置一个 2。也就是说，有 2 个库存是给冻结了。
积分服务的也是同理，别直接给用户增加会员积分。你可以先在积分表里的一个预增加积分字段加入积分。
比如：用户积分原本是 1190 ，现在要增加 10 个积分，别直接 1190 + 10 = 1200 个积分啊！你可以保持积分为 1190 不变，在一个预增加字段里，比如说 prepare _ add _ credit 字段，设置一个 10 ，表示有 10 个积分准备增加。
C（Confirm）：在各个服务里引入了一个 TCC 分布式事务的框架，事务管理器可以感知到各个服务的 Try 操作是否都成功了。假如都成功了， TCC 分布式事务框架会控制进入 TCC 下一个阶段，第一个 C 阶段，也就是 Confirm 阶段。此时，需要把 Try 阶段锁住的资源进行处理。
比如，把订单的状态设置为“已支付（Payed）”。
比如，扣除掉相应的库存。
比如，增加用户积分。
C（Cancel）：在 Try 阶段，假如某个服务执行出错，比如积分服务执行出错了，那么服务内的 TCC 事务框架是可以感知到的，然后它会决定对整个 TCC 分布式事务进行回滚。
TCC 分布式事务框架只要感知到了任何一个服务的 Try 逻辑失败了，就会跟各个服务内的 TCC 分布式事务框架进行通信，然后调用各个服务的 Cancel 逻辑。也就是说，会执行各个服务的第二个 C 阶段， Cancel 阶段。
比如，订单的支付状态，先把状态修改为" closed "状态。
比如，冻结库存的字段， prepare _ remove _ stock 字段，将冻结的库存 2 清零。
比如，预增加积分的字段， prepare _ add _ credit 字段，将准备增加的积分 10 清零。
做冗余，设置多个事务管理器，一个宕掉了，其他的还可以用。
状态机制。版本号机制。
速度快，因为数据存在内存中。
支持丰富数据类型，支持 string、list、set 、sorted set、hash。
支持事务，操作都是原子性，所谓的原子性就是对数据的更改要么全部执行，要么全部不执行。
丰富的特性：可用于缓存，消息，按 key 设置过期时间，过期后将会自动删除。
单线程，单进程，采用 IO 多路复用技术。
key-value 键值对。
string（字符串）, hash（哈希）, list（队列）, set（集合）及 zset（sorted set 有序集合）。
string：简单地 get / set 缓存。
hash：可以缓存用户资料。比如命令：hmset user1 name "lin" sex "male" age "25" ，缓存用户 user1 的资料，姓名为 lin ，性别为男，年龄 25。
list：可以做队列。往 list 队列里面 push 数据，然后再 pop 出来。
zset：可以用来做排行榜。
Redis 字符串，却不是 C 语言中的字符串（即以空字符 ’\0’ 结尾的字符数组），它是自己构建了一种名为 简单动态字符串（simple dynamic string , SDS）的抽象类型，并将 SDS 作为 Redis 的默认字符串表示。
Redi List ，底层是 ZipList ，不满足 ZipList 就使用双向链表。ZipList 是为了节约内存而开发的。和各种语言的数组类似，它是由连续的内存块组成的，这样一来，由于内存是连续的，就减少了很多内存碎片和指针的内存占用，进而节约了内存。
一个可靠安全的系统，肯定要考虑数据的可靠性，尤其对于内存为主的 Redis ，就要考虑一旦服务器挂掉，启动之后，如何恢复数据的问题，也就是说数据如何持久化的问题。 AOF 就是备份操作记录。AOF 由于是备份操作命令，备份快、恢复慢。 AOF 的优点：AOF 更好保证数据不会被丢失，最多只丢失一秒内的数据。另外重写操作保证了数据的有效性，即使日志文件过大也会进行重写。AOF 的日志文件的记录可读性非常的高。 AOF 的缺点：对于相同数量的数据集而言， AOF 文件通常要大于 RDB 文件。 RDB 就是备份所有数据，使用了快照。RDB 恢复数据比较快。
会进行 AOF 文件重写。
随着 AOF 文件越来越大，里面会有大部分是重复命令或者可以合并的命令。
重写的好处：减少 AOF 日志尺寸，减少内存占用，加快数据库恢复时间。
执行一个 AOF 文件重写操作，重写会创建一个当前 AOF 文件的体积优化版本。
先以 MULTI 开始一个事务， 然后将多个命令入队到事务中， 最后由 EXEC 命令触发事务， 一并执行事务中的所有命令。如果想放弃这个事务，可以使用 DISCARD 命令。
key 的的过期时间通过 EXPIRE key seconds 命令来设置数据的过期时间。返回 1 表明设置成功，返回 0 表明 key 不存在或者不能成功设置过期时间。
惰性删除：当读/写一个已经过期的 key 时，会触发惰性删除策略，直接删除掉这个过期 key ，并按照 key 不存在去处理。惰性删除，对内存不太好，已经过期的 key 会占用太多的内存。 定期删除：每隔一段时间，就会对 Redis 进行检查，主动删除一批已过期的 key。
定时删除，就是在设置 key 的过期时间的同时，创建一个定时器，让定时器在过期时间来临时，立即执行对 key 的删除操作。 定时删会占用 CPU ，影响服务器的响应时间和性能。
当前已用内存超过 maxmemory 限定时，会触发主动清理策略，也就是 Redis 的内存回收策略。 LRU 、TTL。 noeviction ：默认策略，不会删除任何数据，拒绝所有写入操作并返回客户端错误信息，此时 Redis 只响应读操作。
volatitle - lru ：根据 LRU 算法删除设置了超时属性的键，知道腾出足够空间为止。如果没有可删除的键对象，回退到 noeviction 策略。
allkeys - lru ：根据 LRU 算法删除键，不管数据有没有设置超时属性，直到腾出足够空间为止。
allkeys - random ：随机删除所有键，知道腾出足够空间为止。
volatitle - random ：随机删除过期键，知道腾出足够空间为止。
volatitle - ttl ：根据键值对象的 ttl 属性，删除最近将要过期数据。如果没有，回退到 noeviction 策略。
主从模式、哨兵模式、Cluster（集群）模式。最好是用集群模式。
集群模式。三主三从。
master 和 slaver。主从复制。读写分离。哨兵模式。
Redis 数据分片原理是哈希槽（hash slot）。
Redis 集群有 16384 个哈希槽。每一个 Redis 集群中的节点都承担一个哈希槽的子集。
哈希槽让在集群中添加和移除节点非常容易。例如，如果我想添加一个新节点 D ，我需要从节点 A 、B、C 移动一些哈希槽到节点 D。同样地，如果我想从集群中移除节点 A ，我只需要移动 A 的哈希槽到 B 和 C。当节点 A 变成空的以后，我就可以从集群中彻底删除它。因为从一个节点向另一个节点移动哈希槽并不需要停止操作，所以添加和移除节点，或者改变节点持有的哈希槽百分比，都不需要任何停机时间（downtime）。
一致性 Hash 算法将整个哈希值空间组织成一个虚拟的圆环, 我们对 key 进行哈希计算，使用哈希后的结果对 2 ^ 32 取模，hash 环上必定有一个点与这个整数对应。依此确定此数据在环上的位置，从此位置沿环顺时针“行走”，第一台遇到的服务器就是其应该定位到的服务器。 一致性 Hash 算法对于节点的增减都只需重定位环空间中的一小部分数据，具有较好的容错性和可扩展性。 比如，集群有四个节点 Node A 、B 、C 、D ，增加一台节点 Node X。Node X 的位置在 Node B 到 Node C 直接，那么受到影响的仅仅是 Node B 到 Node X 间的数据，它们要重新落到 Node X 上。 所以一致性哈希算法对于容错性和扩展性有非常好的支持。
一致性哈希算法也有一个严重的问题，就是数据倾斜。 如果在分片的集群中，节点太少，并且分布不均，一致性哈希算法就会出现部分节点数据太多，部分节点数据太少。也就是说无法控制节点存储数据的分配。
无中心结构。Redis-Cluster 采用无中心结构，每个节点保存数据和整个集群状态,每个节点都和其他所有节点连接。
从机发送 SYNC（同步）命令，主机接收后会执行 BGSAVE（异步保存）命令备份数据。
主机备份后，就会向从机发送备份文件。主机之后还会发送缓冲区内的写命令给从机。 当缓冲区命令发送完成后，主机执行一条写命令，就会往从机发送同步写入命令。
下面是 Redis 官方文档对于哨兵功能的描述：
监控（Monitoring）：哨兵会不断地检查主节点和从节点是否运作正常。
自动故障转移（Automatic Failover）：当主节点不能正常工作时，哨兵会开始自动故障转移操作，它会将失效主节点的其中一个从节点升级为新的主节点，并让其他从节点改为复制新的主节点。
配置提供者（Configuration Provider）：客户端在初始化时，通过连接哨兵来获得当前 Redis 服务的主节点地址。
通知（Notification）：哨兵可以将故障转移的结果发送给客户端。
布隆过滤器的主要是由一个很长的二进制向量和若干个（k 个）散列映射函数组成。因为每个元数据的存储信息值固定，而且总的二进制向量固定。所以在内存占用和查询时间上都远远超过一般的算法。当然存在一定的不准确率（可以控制）和不容易删除样本数据。 布隆过滤器的优点：大批量数据去重，特别的占用内存。但是用布隆过滤器（Bloom Filter）会非常的省内存。 布隆过滤器的特点：当布隆过滤器说某个值存在时，那可能就不存在，如果说某个值不存在时，那肯定就是不存在了。 布隆过滤器的应用场景：新闻推送（不重复推送）。解决缓存穿透的问题。
如果缓存数据设置的过期时间是相同的，并且 Redis 恰好将这部分数据全部删光了。这就会导致在这段时间内，这些缓存同时失效，全部请求到数据库中。这就是缓存雪崩。
解决方法：在缓存的时候给过期时间加上一个随机值，这样就会大幅度的减少缓存在同一时间过期。
缓存穿透是指查询一个一定不存在的数据。由于缓存不命中，并且出于容错考虑，如果从数据库查不到数据则不写入缓存，这将导致这个不存在的数据每次请求都要到数据库去查询，失去了缓存的意义。
读的时候，先读缓存，缓存没有的话，就读数据库，然后取出数据后放入缓存，同时返回响应。
先删除缓存，再更新数据库。
先更新数据库，再删除缓存。可能出现以下情况：
如果更新完数据库， Java 服务提交了事务，然后挂掉了，那 Redis 还是会执行，这样也会不一致。
如果更新数据库成功，删除缓存失败了，那么会导致数据库中是新数据，缓存中是旧数据，数据就出现了不一致。
先删除缓存，再更新数据库。
如果删除缓存失败，那就不更新数据库，缓存和数据库的数据都是旧数据，数据是一致的。
如果删除缓存成功，而数据库更新失败了，那么数据库中是旧数据，缓存中是空的，数据不会不一致。因为读的时候缓存没有，所以去读了数据库中的旧数据，然后更新到缓存中。
使用 set key value ex nx 命令。
当 key 不存在时，将 key 的值设为 value ，返回 1。若给定的 key 已经存在，则 setnx 不做任何动作，返回 0。
当 setnx 返回 1 时，表示获取锁，做完操作以后 del key ，表示释放锁，如果 setnx 返回 0 表示获取锁失败。
详细的命令如下：
set key value [EX seconds] [PX milliseconds] [NX|XX]EX seconds：设置失效时长，单位秒PX milliseconds：设置失效时长，单位毫秒NX：key不存在时设置value，成功返回OK，失败返回(nil)XX：key存在时设置value，成功返回OK，失败返回(nil)。
复制代码示例如下：
set name fenglin ex 100 nx
复制代码我们需要保证 setnx 命令和 expire 命令以原子的方式执行，否则如果客户端执行 setnx 获得锁后，这时客户端宕机了，那么这把锁没有设置过期时间，导致其他客户端永远无法获得锁了。
value 可以使用 json 格式的字符串，示例：
{ "count":1, "expireAt":147506817232, "jvmPid":22224, "mac":"28-D2-44-0E-0D-9A", "threadId":14}
复制代码系统模块宕机的话，可以通过设置过期时间（就是设置缓存失效时间）解决。系统宕机时锁阻塞，过期后锁释放。 问：设置缓存失效时间，那如果前一个线程把这个锁给删除了呢？
这两个属于锁超时的问题。
可以将锁的 value 设置为 Json 字符串，在其中加入线程的 id 或者请求的 id ，在删除之前， get 一下这个 key ，判断 key 对应的 value 是不是当前线程的。只有是当前线程获取的锁，当前线程才可以删除。
可以将锁的 value 设置为 Json 字符串，在其中加入线程的 id 和 count 变量。
当 count 变量的值为 0 时，表示当前分布式锁没有被线程占用。
如果 count 变量的值大于 0 ，线程 id 不是当前线程，表示当前分布式锁已经被其他线程占用。
如果 count 变量的值大于 0 ，线程 id 是当前线程的 id ，表示当前线程已经拿到了锁，不必阻塞，可以直接重入，并将 count 变量的值加一即可。
这种思路，其实就是参考了 ReentrantLock 可重入锁的机制。
可以使用开源框架 Redisson ，采用了 redLock。
分布式锁：基于 Zookeeper 一致性文件系统,实现锁服务。锁服务分为保存独占及时序控制两类。
保存独占：将 Zookeeper 上的一个 znode 看作是一把锁，通过 createznode 的方式来实现。所有客户端都去创建 / distribute _ lock 节点，最终成功创建的那个客户端也即拥有了这把锁。用完删除自己创建的 distribute _ lock 节点就释放锁。
时序控制：基于/ distribute _ lock 锁，所有客户端在它下面创建临时顺序编号目录节点，和选 master 一样，编号最小的获得锁，用完删除，依次方便。
更详细的回答如下：
其实基于 Zookeeper ，就是使用它的临时有序节点来实现的分布式锁。
原理就是：当某客户端要进行逻辑的加锁时，就在 Zookeeper 上的某个指定节点的目录下，去生成一个唯一的临时有序节点， 然后判断自己是否是这些有序节点中序号最小的一个，如果是，则算是获取了锁。如果不是，则说明没有获取到锁，那么就需要在序列中找到比自己小的那个节点，并对其调用 exist() 方法，对其注册事件监听，当监听到这个节点被删除了，那就再去判断一次自己当初创建的节点是否变成了序列中最小的。如果是，则获取锁，如果不是，则重复上述步骤。
当释放锁的时候，只需将这个临时节点删除即可。
zab 协议。
zab 协议有两种模式，它们分别是恢复模式（选主）和广播模式（同步）。当服务启动或者在领导者崩溃后， zab 就进入了恢复模式，当领导者被选举出来，且大多数 server 完成了和 leader 的状态同步以后，恢复模式就结束了。状态同步保证了 leader 和 server 具有相同的系统状态。
Zookeeper 可以作为服务协调的注册中心。还可以做分布式锁（如果没有用过分布式锁就不要说）。
Zookeeper 的数据模型是树型结构，由很多数据节点组成， zk 将全量数据存储在内存中，可谓是高性能，而且支持集群，可谓高可用。另外支持事件监听（watch 命令）。
Zookeeper 可以作为一个数据发布/订阅系统。
临时节点，永久节点。更加细分就是临时有序节点、临时无序节点、永久有序节点、永久无序节点。
临时节点：当创建临时节点的程序停掉之后，这个临时节点就会消失，存储的数据也没有了。
IP、端口、还有心跳机制。数据存储在 Zookeeper 的节点上面。
广播风暴。
Leader 主机负责读和写。
Follower 负责读，并将写操作转发给 Leader。Follower 还参与 Leader 选举投票，参与事务请求 Proposal 投票。
Observer 充当观察者的角色。Observer 和 Follower 的唯一区别在于：Observer 不参与任何投票。
Leader 不可用时，会重新选举 Leader。超过半数的 Follower 选举投票即可，Observer 不参与投票。
3 个节点。注意：Zookeeper 集群节点，最好是奇数个的。
集群中的 Zookeeper 节点需要超过半数，整个集群对外才可用。
这里所谓的整个集群对外才可用，是指整个集群还能选出一个 Leader 来， Zookeeper 默认采用 quorums 来支持 Leader 的选举。
如果有 2 个 Zookeeper，那么只要有 1 个死了 Zookeeper 就不能用了，因为 1 没有过半，所以 2 个 Zookeeper 的死亡容忍度为 0 ；同理，要是有 3 个 Zookeeper，一个死了，还剩下 2 个正常的，过半了，所以 3 个 Zookeeper 的容忍度为 1 ；同理你多列举几个：2 -> 0 ; 3 -> 1 ; 4 -> 1 ; 5 -> 2 ; 6 -> 2 会发现一个规律， 2n 和 2n - 1 的容忍度是一样的，都是 n - 1 ，所以为了更加高效，何必增加那一个不必要的 Zookeeper 呢。
可能会出现脑裂。
假死：由于心跳超时（网络原因导致的）认为 master 死了，但其实 master 还存活着。
脑裂：由于假死会发起新的 master 选举，选举出一个新的 master ，但旧的 master 网络又通了，导致出现了两个 master ，有的客户端连接到老的 master 有的客户端链接到新的 master。
消息队列解耦，削峰，限流。
Kafka 的简单理解
问：Kafka 相对其他消息队列，有什么特点？
持久化：Kafka 的持久化能力比较好，通过磁盘持久化。而 RabbitMQ 是通过内存持久化的。
吞吐量：Rocket 的并发量非常高。
消息处理：RabbitMQ 的消息不支持批量处理，而 RocketMQ 和 Kafka 支持批量处理。
高可用：RabbitMQ 采用主从模式。Kafka 也是主从模式，通过 Zookeeper 管理，选举 Leader ，还有 Replication 副本。
事务：RocketMQ 支持事务，而 Kafka 和 RabbitMQ 不支持。
如果一个生产者或者多个生产者产生的消息能够被多个消费者同时消费的情况，这样的消息队列称为"发布订阅模式"的消息队列。
分布式的消息系统。
高吞吐量。即使存储了许多 TB 的消息，它也保持稳定的性能。 数据保留在磁盘上，因此它是持久的。
零拷贝：Kafka 实现了"零拷贝"原理来快速移动数据，避免了内核之间的切换。
消息压缩、分批发送：Kafka 可以将数据记录分批发送，从生产者到文件系统（Kafka 主题日志）到消费者，可以端到端的查看这些批次的数据。
批处理能够进行更有效的数据压缩并减少 I / O 延迟。
顺序读写：Kafka 采取顺序写入磁盘的方式，避免了随机磁盘寻址的浪费。
数据的拷贝从内存拷贝到 kafka 服务进程那块，又拷贝到 socket 缓存那块，整个过程耗费的时间比较高， kafka 利用了 Linux 的 sendFile 技术（NIO），省去了进程切换和一次数据拷贝，让性能变得更好。
消费者每次消费数据的时候，消费者都会记录消费的物理偏移量（offset）的位置。等到下次消费时，他会接着上次位置继续消费
生产者的消息是先被写入分区中的缓冲区中，然后分批次发送给 Kafka Broker。
生产者的消息发送机制，有同步发送和异步发送。
同步发送消息都有个问题，那就是同一时间只能有一个消息在发送，这会造成许多消息。
无法直接发送，造成消息滞后，无法发挥效益最大化。
异步发送消息的同时能够对异常情况进行处理，生产者提供了 Callback 回调。
Kafka 的分区策略指的就是将生产者发送到哪个分区的算法。有顺序轮询、随机轮询、key - ordering 策略。
key - ordering 策略：Kafka 中每条消息都会有自己的 key ，一旦消息被定义了 Key ，那么你就可以保证同一个 Key 的所有消息都进入到相同的分区里面，由于每个分区下的消息处理都是有顺序的，故这个策略被称为按消息键保序策略。
实现负载均衡和水平扩展。Kafka 可以将主题（Topic）划分为多个分区（Partition），会根据分区规则选择把消息存储到哪个分区中，只要如果分区规则设置的合理，那么所有的消息将会被均匀的分布到不同的分区中，这样就实现了负载均衡和水平扩展。另外，多个订阅者可以从一个或者多个分区中同时消费数据，以支撑海量数据处理能力。
在 broker 间平均分布分区副本。
假设有 6 个 broker ，打算创建一个包含 10 个分区的 Topic ，复制系数为 3 ，那么 Kafka 就会有 30 个分区副本，它可以被分配给这 6 个 broker ，这样的话，每个 broker 可以有 5 个副本。
要确保每个分区的每个副本分布在不同的 broker 上面：
假设 Leader 分区 0 会在 broker1 上面， Leader 分区 1 会在 broker2 上面， Leder 分区 2 会在 broker3 上面。
接下来会分配跟随者副本。如果分区 0 的第一个 Follower 在 broker2 上面，第二个 Follower 在 broker3 上面。分区 1 的第一个 Follower 在 broker3 上面，第二个 Follower 在 broker4 上面。
Kafka 可以保证同一个分区里的消息是有序的。也就是说消息发送到一个 Partition 是有顺序的。
Kafka 官网中有这样一句" Consumers label themselves with a consumer group name , and each record published to a topic is delivered to one consumer instance within each subscribing consumer group . "
表示推送到 topic 上的 record ，会被传递到已订阅的消费者群组里面的一个消费者实例。
出现消息积压，可能是因为消费的速度太慢。
扩容消费者。之所以消费延迟大，就是消费者处理能力有限，可以增加消费者的数量。 扩大分区。一个分区只能被消费者群组中的一个消费者消费。消费者扩大，分区最好多随之扩大。
ACK 机制，如果接收方收到消息后，会返回一个确认字符。
acks 参数指定了要有多少个分区副本接收消息，生产者才认为消息是写入成功的。此参数对消息丢失的影响较大。
如果 acks = 0 ，就表示生产者也不知道自己产生的消息是否被服务器接收了，它才知道它写成功了。如果发送的途中产生了错误，生产者也不知道，它也比较懵逼，因为没有返回任何消息。这就类似于 UDP 的运输层协议，只管发，服务器接受不接受它也不关心。
如果 acks = 1 ，只要集群的 Leader 接收到消息，就会给生产者返回一条消息，告诉它写入成功。如果发送途中造成了网络异常或者 Leader 还没选举出来等其他情况导致消息写入失败，生产者会受到错误消息，这时候生产者往往会再次重发数据。因为消息的发送也分为 同步 和 异步， Kafka 为了保证消息的高效传输会决定是同步发送还是异步发送。如果让客户端等待服务器的响应（通过调用 Future 中的 get（） 方法），显然会增加延迟，如果客户端使用回调，就会解决这个问题。
如果 acks = all ，这种情况下是只有当所有参与复制的节点都收到消息时，生产者才会接收到一个来自服务器的消息。不过，它的延迟比 acks = 1 时更高，因为我们要等待不只一个服务器节点接收消息。
1、生产者丢失消息的情况
生产者（Producer） 调用 send 方法发送消息之后，消息可能因为网络问题并没有发送过去。
所以，我们不能默认在调用 send 方法发送消息之后消息消息发送成功了。为了确定消息是发送成功，我们要判断消息发送的结果。可以采用为其添加回调函数的形式，获取回调结果。
如果消息发送失败的话，我们检查失败的原因之后重新发送即可！可以设置 Producer 的 retries（重试次数）为一个比较合理的值，一般是 3 ，但是为了保证消息不丢失的话一般会设置比较大一点。
设置完成之后，当出现网络问题之后能够自动重试消息发送，避免消息丢失。
2、消费者丢失消息的情况
当消费者拉取到了分区的某个消息之后，消费者会自动提交了 offset。自动提交的话会有一个问题，试想一下，当消费者刚拿到这个消息准备进行真正消费的时候，突然挂掉了，消息实际上并没有被消费，但是 offset 却被自动提交了。手动关闭闭自动提交 offset ，每次在真正消费完消息之后之后再自己手动提交 offset 。
3 、Kafka 丢失消息
a、假如 leader 副本所在的 broker 突然挂掉，那么就要从 follower 副本重新选出一个 leader ，但是 leader 的数据还有一些没有被 follower 副本的同步的话，就会造成消息丢失。因此可以设置 ack = all。
b、设置 replication . factor >= 3 。为了保证 leader 副本能有 follower 副本能同步消息，我们一般会为 topic 设置 replication . factor >= 3。这样就可以保证每个 分区（partition） 至少有 3 个副本。虽然造成了数据冗余，但是带来了数据的安全性。
多副本以及 ISR 机制。
在 Kafka 中主要通过 ISR 机制来保证消息的可靠性。
ISR（in sync replica）：是 Kafka 动态维护的一组同步副本，在 ISR 中有成员存活时，只有这个组的成员才可以成为 leader ，内部保存的为每次提交信息时必须同步的副本（acks = all 时），每当 leader 挂掉时，在 ISR 集合中选举出一个 follower 作为 leader 提供服务，当 ISR 中的副本被认为坏掉的时候，会被踢出 ISR ，当重新跟上 leader 的消息数据时，重新进入 ISR。
HW（high watermark）：副本的高水印值， replica 中 leader 副本和 follower 副本都会有这个值，通过它可以得知副本中已提交或已备份消息的范围， leader 副本中的 HW ，决定了消费者能消费的最新消息能到哪个 offset。
LEO（log end offset）：日志末端位移，代表日志文件中下一条待写入消息的 offset ，这个 offset 上实际是没有消息的。不管是 leader 副本还是 follower 副本，都有这个值。
一致性定义：若某条消息对 client 可见，那么即使 Leader 挂了，在新 Leader 上数据依然可以被读到。 HW - HighWaterMark : client 可以从 Leader 读到的最大 msg offset ，即对外可见的最大 offset ， HW = max（replica . offset）
对于 Leader 新收到的 msg ， client 不能立刻消费， Leader 会等待该消息被所有 ISR 中的 replica 同步后，更新 HW ，此时该消息才能被 client 消费，这样就保证了如果 Leader fail ，该消息仍然可以从新选举的 Leader 中获取。 对于来自内部 Broker 的读取请求，没有 HW 的限制。同时， Follower 也会维护一份自己的 HW ， Folloer . HW = min（Leader . HW , Follower . offset）.
偏移量 offset :消费者每次消费数据的时候，消费者都会记录消费的物理偏移量（offset）的位置。等到下次消费时，他会接着上次位置继续消费。 一般情况下， Kafka 重复消费都是由于未正常提交 offset 造成的，比如网络异常，消费者宕机之类的。 使用的是 spring-Kafka ，所以把 Kafka 消费者的配置 enable.auto. commit 设为 false ，禁止 Kafka 自动提交 offset ，从而使用 spring-Kafka 提供的 offset 提交策略。
sprin-Kafka 中的 offset 提交策略可以保证一批消息数据没有完成消费的情况下，也能提交 offset ，从而避免了提交失败而导致永远重复消费的问题。
将消息的唯一标识保存起来，每次消费时判断是否处理过即可。
怎么保证消息队列消费的幂等性？其实还是得结合业务来思考，有几个思路： 比如你拿个数据要写库，你先根据主键查一下，如果这数据都有了，你就别插入了， update 一下好吧。 比如你是写 Redis ，那没问题了，反正每次都是 set ，天然幂等性。 如果是复杂一点的业务，那么每条消息加一个全局唯一的 id ，类似订单 id 之类的东西，然后消费到了之后，先根据这个 id 去比如 Redis 里查一下，之前消费过吗？ 如果没有消费过，你就处理，然后这个 id 写 Redis。如果消费过了，那你就别处理了，保证别重复处理相同的消息即可。
pull 模式，准确性？可以较大保证消费者能获取到消息。
push 模式，即时性？可以在 broker 获取消息后马上送达消费者。
Kafka 使用日志文件的方式来保存生产者和发送者的消息，每条消息都有一个 offset 值来表示它在分区中的偏移量。
Kafka 中存储的一般都是海量的消息数据，为了避免日志文件过大， 一个分片并不是直接对应在一个磁盘上的日志文件，而是对应磁盘上的一个目录。 数据存储设计的特点在于以下几点：
Kafka 把主题中一个分区划分成多个分段的小文件段，通过多个小文件段，就容易根据偏移量查找消息、定期清除和删除已经消费完成的数据文件，减少磁盘容量的占用；
采用稀疏索引存储的方式构建日志的偏移量索引文件，并将其映射至内存中，提高查找消息的效率，同时减少磁盘 IO 操作；
Kafka 将消息追加的操作逻辑变成为日志数据文件的顺序写入，极大的提高了磁盘 IO 的性能；
Kafka 在 Zookeeper 上针对每个 Topic 都维护了一个 ISR（in - sync replica ---已同步的副本）的集合，集合的增减 Kafka 都会更新该记录。如果某分区的 Leader 不可用， Kafka 就从 ISR 集合中选择一个副本作为新的 Leader。
分库分表，主从架构，读写分离。
水平分库/分表，垂直分库/分表。
水平分库/表，各个库和表的结构一模一样。
垂直分库/表，各个库和表的结构不一样。
主机负责写，从机负责读。
遇到高并发场景，可以使用 Redis 缓存、Redis 限流、MQ 异步、MQ 削峰等。
秒杀。比如抢商品，抢红包。
可以通过队列配合异步处理实现秒杀。
使用 redis 的 list ，将商品 push 进队列， pop 出队列。
异步操作不会阻塞，不会消耗太多时间。
使用多个 list。
使用多线程从队列中拉取数据。
集群提高可用性。
MQ 异步处理，削峰。
redis 是单进程单线程的，操作具有原子性，不会导致少卖或者超卖。另外，也可以设置一个版本号 version ，乐观锁机制。
使用 Redis 缓存。员工点击签到，可以在缓存中 set 状态。将工号作为 key ,打卡状态作为 value ，打卡成功为 01 ，未打卡或者打卡失败为 00 ，然后再将数据异步地写入到数据库里面就可以了。
Redis 限流。Redis 可以用计数器限流。使用 INCR 命令，每次都加一，处理完业务逻辑就减一。然后设置一个最大值，当达到最大值后就直接返回，不处理后续的逻辑。
Redis 还可以用令牌桶限流。使用 Redis 队列，每十个数据中 push 一个令牌桶，每个请求进入后会先从队列中 pop 数据，如果是令牌就可以通行，不是令牌就直接返回。
短 URL 从生成到使用分为以下几步：
有一个服务,将要发送给你的长 URL 对应到一个短 URL 上.例如 www.baidu.com -> www.t.cn/1。
把短 url 拼接到短信等的内容上发送。
用户点击短 URL ,浏览器用 301 / 302 进行重定向,访问到对应的长 URL。
展示对应的内容。
思路是建立一个发号器。每次有一个新的长 URL 进来，我们就增加一。并且将新的数值返回.第一个来的 url 返回"www.x.cn/0",第二个返回"www.x.cn/1". 问：长链接和短链接的对应关系如何存储？
如果数据量小且 QPS 低，直接使用数据库的自增主键就可以实现。 还可以将最近/最热门的对应关系存储在 K-V 数据库中,这样子可以节省空间的同时,加快响应速度。
使用分布式系统。
部署多台服务器，并做负载均衡。
使用缓存（Redis）集群。
数据库分库分表 + 读写分离。
引入消息中间件集群。
问：设计一个红包系统，需要考虑哪些问题，如何解决？（本质上也是秒杀系统）
问：如果让你设计一个消息队列，你会怎么设计？
项目经验及数据量 问：这个项目的亮点、难点在哪里？
问：如果这个模块挂掉了怎么办？ 问：你们的项目有多少台机器？
问：你们的项目有多少个实例？
QPS ，每秒查询量。QPS 为几百/几千，已经算是比较高的了。 TPS ，每秒处理事务数。TPS 即每秒处理事务数，包括：”用户请求服务器”、”服务器自己的内部处理”、”服务器返回给用户”，这三个过程，每秒能够完成 N 个这三个过程， TPS 也就是 3。
快的话几毫秒。慢的话 1-2 秒。异常情况可能会 10 几秒；最好保证 99 %以上的请求是正常的。
正常情况下，几百万的数据量没有必要分库分表。只有超过几千万才需要分库分表。
插入/更新一条数据一般要几毫秒；更新十万条数据最好在 10 秒以内； 百万条数据最好在 50-100 秒以内。
分布式系统架构，回顾2020年常见面试知识点梳理（每次面试都会问到其中某一块知识点）
标签：不执行 令牌 数据文件 ref 解决 失败 指定 生产者 mpi
原文地址：https://www.cnblogs.com/bainannan/p/14213721.html
