Redis的VM(虚拟内存)机制就是暂时把不经常访问的数据(冷数据)从内存交换到磁盘中,从而腾出宝贵的内存空间用于其它需要访问的数据(热数据)。 通过VM功能可以实现冷热数据分离,使热数据仍在内存中、冷数据保存到磁盘。这样就可以避免因为内存不足而造成访问速度下降的问题。 Redis提高数据库容量的办 ...
分类:
其他好文 时间:
2021-07-19 16:52:36
阅读次数:
0
作者:不学无数的程序员 链接:https://www.jianshu.com/p/a8eb1412471f 在做系统优化时,想到了将数据进行分级存储的思路。因为在系统中会存在一些数据,有些数据的实时性要求不高,比如一些配置信息。 基本上配置了很久才会变一次。而有一些数据实时性要求非常高,比如订单和流 ...
分类:
数据库 时间:
2021-01-26 12:27:01
阅读次数:
0
深入浅出Redis持久化机制导读:Redis是最常用的高性能Nosql内存数据库,一旦服务器进程退出,数据库的数据就会丢失,为了解决这个问题,Redis提供了持久化方案,将内存中的数据保存到磁盘中,避免数据的丢失。本文作者通过深入解读Redis源代码,详细介绍了这一问题。作者简介:钱文品(老钱),互联网分布式高并发技术十年老兵,目前任掌阅科技服务端技术专家。熟练使用Java、Python、Gola
分类:
其他好文 时间:
2020-11-06 01:01:27
阅读次数:
15
SlimTrie:战胜Btree单机百亿文件的极致索引-实现篇最近,知名博主@drdrxp(张炎泼)一条关于SlimTrie介绍的微博引发了热议高可用架构联系了XP老师,通过本文首次介绍了SlimTrie的详细实现。本文作者李文博,吴义谱、张炎泼对本文亦有贡献。李文博,目前就职于白山云科技有限公司,从事云存储研发工程师。在白山主要有s2分布式对象存储系统的日常建设和ec冷数据存储集群开发的实战经历
分类:
其他好文 时间:
2020-11-04 18:40:14
阅读次数:
16
1 表的话 数据量大 类似日志 不建议存表 查询慢 redis list 关键 从100次 还是 十分钟出发 2 参考redis怎么玩的 定时器 消耗性能 不是全部删 取几个 策略: 快过期的 或者冷数据 惰性删除 访问到判断 ① 稍微影响最快响应时间 ② 冷数据 不怎么被访问 永远存在 mq 延迟 ...
分类:
其他好文 时间:
2020-10-10 18:05:03
阅读次数:
44
1.缓存雪崩 缓存雪崩是指缓存中数据大批量到过期时间,而查询数据量巨大,引起数据库压力过大甚至down机 具体原因: 1.大量缓存数据同时过期 2.突然暴增的单点数据访问量 解决方案: 缓存数据的过期时间设置随机,防止同一时间大量数据过期现象发生,对数据进行标签,区分冷数据/热数据,设置热点数据永远 ...
分类:
其他好文 时间:
2020-07-12 16:34:16
阅读次数:
58
1、Cache Aside Pattern(1)读的时候,先读缓存,缓存没有的话,那么就读数据库,然后取出数据后放入缓存,同时返回响应 (2)更新的时候,先删除缓存,然后再更新数据库 2、为什么是删除缓存,而不是更新缓存呢?原因很简单,很多时候,复杂点的缓存的场景,因为缓存有的时候,不简单是数据库中 ...
分类:
数据库 时间:
2020-07-04 22:52:25
阅读次数:
78
一.限制单个index在单个节点上的总shard数。index.routing.allocation.total_shards_per_node一般在冷热分离的场景种,冷数据会设置副本,热数据为了保证写入速度,只有主分片。当以均衡index中的shard数为目的,设置了该限制后,若冷数据节点数不够,... ...
分类:
其他好文 时间:
2020-05-08 17:50:24
阅读次数:
244
背景 作为中国最大的在线教育站点,目前沪江日志服务的用户包含网校,交易,金融,CCTalk 等多个部门的多个产品的日志搜索分析业务,每日产生的各类日志有好十几种,每天处理约10亿条(1TB)日志,热数据保留最近7天数据,冷数据永久保存。 为什么做日志系统 首先,什么是日志? 日志就是程序产生的,遵循 ...
分类:
其他好文 时间:
2020-04-29 10:30:59
阅读次数:
96
redis 常见的面试题 Redis 持久化机制 缓存雪崩、缓存穿透、缓存预热、缓存更新、缓存降级等问题 热点数据和冷数据是什么 Memcache与Redis的区别都有哪些? 单线程的redis为什么这么快 redis的数据类型,以及每种数据类型的使用场景,Redis 内部结构 redis的过期策略 ...
分类:
其他好文 时间:
2020-04-20 20:05:37
阅读次数:
69