标签:备份 需要 机制 增量 正是 分析 取数据 就会 信息
不管是先写MySQL数据库,再删除Redis缓存;还是先删除缓存,再写库,都有可能出现数据不一致的情况。举一个例子:
1.如果删除了缓存Redis,还没有来得及写库MySQL,另一个线程就来读取,发现缓存为空,则去数据库中读取数据写入缓存,此时缓存中为脏数据。
2.如果先写了库,在删除缓存前,写库的线程宕机了,没有删除掉缓存,则也会出现数据不一致情况。
因为写和读是并发的,没法保证顺序,就会出现缓存和数据库的数据不一致的问题。
在进行写库操作的前后都进行删缓存的操作
1)先删除缓存:为了其他线程读取数据读不到,去数据库取
2)再写数据库
3)休眠n毫秒:为了防止该线程第二次删除后,而其他线程是在该线程写数据之前读取的数据库内容,导致缓存中的数据是从其他线程写进来的,这样就一直是脏数据了。
4)再次删除缓存
需要评估自己的项目的读数据业务逻辑的耗时。这么做的目的,就是确保读请求结束,写请求可以删除读请求造成的缓存脏数据。
当然这种策略还要考虑redis和数据库主从同步的耗时。最后的的写数据的休眠时间:则在读数据业务逻辑的耗时基础上,加几百ms即可。比如:休眠1秒。
这样最差的情况就是在超时时间内数据存在不一致(无法避免),而且又增加了写请求的耗时(延时导致的,可通过开线程进行休眠和第二次删除,这样当前请求不会有额外的延时)。
第二次删除缓存失败怎么办?思路是采用一个重试机制
方案一:直接在上述代码中的第二次删除的时候加入重试机制
(1)更新数据库数据;
(2)缓存因为种种问题删除失败;
(3)将需要删除的key发送至消息队列;
(4)自己消费消息,获得需要删除的key;
(5)继续重试删除操作,直到成功;
缺点:对业务线代码造成大量的侵入,所以有接下来的“异步更新缓存”的方案
MySQL binlog增量订阅消费+消息队列+增量数据更新到redis
(1)更新数据库数据;
(2)数据库会将操作信息写入binlog日志当中;
(3)订阅程序提取出所需要的数据以及key;
(4)另起一段非业务代码,获得该信息;
(5)尝试删除缓存操作,发现删除失败;
(6)将这些信息发送至消息队列;
(7)重新从消息队列中获得该数据,重试操作;
1)数据操作主要分为两大块:
这里说的是增量,指的是mysql的update、insert、delate变更数据。
2)读取binlog后分析 ,利用消息队列,推送更新各台的redis缓存数据。
这样一旦MySQL中产生了新的写入、更新、删除等操作,就可以把binlog相关的消息推送至Redis,Redis再根据binlog中的记录,对Redis进行更新。
其实这种机制,很类似MySQL的主从备份机制,因为MySQL的主备也是通过binlog来实现的数据一致性。
这里可以结合使用canal(阿里的一款开源框架),通过该框架可以对MySQL的binlog进行订阅,而canal正是模仿了mysql的slave数据库的备份请求,使得Redis的数据更新达到了相同的效果。
当然,这里的消息推送工具你也可以采用别的第三方:kafka、rabbitMQ等来实现推送更新Redis。
标签:备份 需要 机制 增量 正是 分析 取数据 就会 信息
原文地址:https://www.cnblogs.com/hf8051/p/11929247.html