用最少的机器支撑万亿级访问,微博6年Redis优化历程编者按:本文由刘东辉向高可用架构供稿,基于在5月15日Redis用户交流会上的演讲内容。刘东辉,新浪微博基础架构组研发工程师。2013年加入微博,先后参与微博Redis、CounterService、SSDCache、CacheService等基础组件的设计与开发工作,目前专注于分布式缓存、存储方向。微博是从2010年开始引入Redis,现在R
分类:
其他好文 时间:
2020-11-16 13:07:17
阅读次数:
4
一直性Hash算法在很多场景下都有应用,尤其是在分布式缓存系统中,经常用其来进行缓存的访问的负载均衡,比如:redis等<k,v>非关系数据库作为缓存系统。我们首先来看一下采用取模方式进行缓存的问题。 一致性Hash算法的使用场景 假设我们的将10台redis部署为我们的缓存系统,存储<k,v>数据 ...
分类:
编程语言 时间:
2020-11-01 10:19:01
阅读次数:
14
1.背景本文是上周去技术沙龙听了一下爱奇艺的Java缓存之路有感写出来的。先简单介绍一下爱奇艺的java缓存道路的发展吧。可以看见图中分为几个阶段:第一阶段:数据同步加redis通过消息队列进行数据同步至redis,然后Java应用直接去取缓存这个阶段优点是:由于是使用的分布式缓存,所以数据更新快。缺点也比较明显:依赖Redis的稳定性,一旦redis挂了,整个缓存系统不可用,造成缓存雪崩,所有请
分类:
其他好文 时间:
2020-10-30 11:40:15
阅读次数:
14
概述平常在请求服务的时候,负载均衡一般会用到随机访问,但是随机访问的缺点是负载不均衡,有的服务请求的次数多,有的少;轮询,请求分配均衡,但是如果性能好的机器,想多分配些不行,导致资源白白浪费;权重轮询,权重静态配置,不灵活。hash取模策略,如果某台机器宕机,就会导致返回服务失败。分库分表的时候采取hash取模,如果是增加机器或者是减少机器,数据迁移就会全局迁移,因为机器数据增加或者减少,导致取模
分类:
编程语言 时间:
2020-09-18 00:48:54
阅读次数:
48
redis分片机制(shards) 前提说明: redis可以通过修改内存的大小 实现数据的保存.但是内存的资源不易设置的过大,因为很多的时间都浪费在内存的寻址中. 需求: 如果有海量的数据,需要redis存储 问:应该如何处理? 解决方案: 可以采用Redis分片机制 实现内存数据的扩容. 知识点 ...
分类:
其他好文 时间:
2020-08-18 13:55:27
阅读次数:
83
浅析HDFS分布式存储有哪些优势特点近年,随着区块链、大数据等技术的推动,全球数据量正在无限制地扩展和增加。分布式存储的兴起与互联网的发展密不可分,互联网公司由于其大数据、轻资产的特点,通常使用大规模分布式存储系统。那么分布式存储的种类有哪些呢?分布式存储包含的种类繁多,除了传统意义上的分布式文件系统、分布式块存储和分布式对象存储外,还包括分布式数据库和分布式缓存等,但其中架构无外乎于三种:A、中
分类:
其他好文 时间:
2020-08-05 00:01:18
阅读次数:
97
缓存 -- 分布式锁 -- Redis 现在Redis基本上没家公司都在使用,只是各自使用的场景不以,但Redis最出名的还是做为缓存服务器,提搞服务器的的吞吐量,下面我们来围绕这个作为缓存做一个总结 今天的目标其实是Redis的分布式锁,但索性全部理一理吧,正好最近在找工作 RedisRempla ...
分类:
其他好文 时间:
2020-07-27 13:39:11
阅读次数:
72
作者:claudio | 煎蛋 Reddit 有篇帖子介绍了算法对我们现在生活的重要性,以及哪些算法对现代文明所做贡献最大。这个表单并不完整,很多与我们密切相关的算法都没有提到,如机器学习和矩阵乘法,欢迎你继续补充。 如果对算法有所了解,读这篇文章时你可能会问 “作者知道算法为何物吗?”,或是 “F ...
分类:
编程语言 时间:
2020-07-10 21:17:29
阅读次数:
81
背景 Redis3.0版本之后开始支持了Redis Cluster,Redis也开始有了分布式缓存的概念。关于Redis Cluster的相关说明,可以看之前的几篇文章:Redis Cluster 原理相关说明、redis-cli --cluster help说明。其架构如下: 因为 Redis C ...
分类:
其他好文 时间:
2020-07-08 23:06:08
阅读次数:
90
redis-setbit理解https://blog.csdn.net/hgd613/article/details/54095729 分布式缓存Redis之bitmap、setbithttps://blog.csdn.net/u011489043/article/details/78990162 ...
分类:
其他好文 时间:
2020-07-08 13:46:42
阅读次数:
64