码迷,mamicode.com
首页 >  
搜索关键字:spark streaming redis    ( 30354个结果
redis主从
一、主从怎么保持数据一致 Redis 的主从库同步有三种模式:全量复制、基于长连接的命令传播,以及增量复制。 1.第一次主从库同步 它们相互之间就可以通过 replicaof命令形成主库和从库的关系,之后会按照如下图所示三个阶段完成数据的第一次同步 FULLRESYNC 响应表示第一次复制采用的全量 ...
分类:其他好文   时间:2021-06-24 18:30:54    阅读次数:0
【Azure Redis 缓存】Azure Redis加入VNET后,在另一个区域(如中国东部二区)的VNET无法访问Redis服务(注:两个VNET已经结对,相互之间可以互ping)
问题描述 为了保护Redis资源,把它与VNET集成后,实现只能通过VNET内网访问。在东二的区域中部署两个Redis服务后,发现一个奇怪的现象:东1区中的VM资源通过全局对等互联(Peering)实现了资源的互通。但在验证测试中,发现VM能连接第一个Redis资源,而无法连接第二个Redis资源? ...
分类:Web程序   时间:2021-06-24 17:44:46    阅读次数:0
[Tips] redis的key自动过期策略
(引用自:https://blog.csdn.net/haoranhaoshi/article/details/109781570) redis出于性能上的考虑,无法做到对每一个过期的key进行即时的过期监听和删除。但是redis提供了其它的方法来清理过期的key。 1.被动清理(或者称惰性过期) ...
分类:其他好文   时间:2021-06-24 17:31:39    阅读次数:0
redis cluster如何支持pipeline
当我们要操作一批key时,可以通过 redis pipline 再执行完后一次性读取所有结果来较少网络传输的消耗; 很明显,这有个限制条件 ? 这批key的执行必须在同一个连接上 当部署的redis为 standalone 或 master-slave 结构的时候还好,可以从 pool 取出来的连接 ...
分类:其他好文   时间:2021-06-23 17:18:58    阅读次数:0
Azkaban 简介(一)
什么是任务调度 大数据平台技术框架支持的开发语言多种多样,开发人员的背景差异也很大,这就产生出很多不同类型的程序(任务)运行在大数据平台之上,如:MapReduce、Hive、Pig、Spark、Java、Shell、Python 等。 这些任务需要不同的运行环境,并且除了定时运行,各种类型之间的任 ...
分类:其他好文   时间:2021-06-23 17:16:53    阅读次数:0
spark内存分配
1.spark内存分配 MemoryManager |__StaticMemoryManager 静态内存管理机制 |__UnifiedMemoryManger 统一内存管理机制 1.静态内存管理机制 静态内存管理机制实现起来较为简单,但没有根据具体的数据规模和计算任务做相应的配置,很容易造成"一半 ...
分类:其他好文   时间:2021-06-23 17:02:31    阅读次数:0
Redis设计与实现 第 10 章 RDB 持久化
第 10 章 RDB 持久化 数据库状态:服务器中的非空数据库以及它们的键值对统称为数据库状态 Redis 提供 RDB 持久化功能,将内存中的数据库状态保存到磁盘中,避免数据意外丢失 RDB 文件是一个经过压缩的二进制文件,还可以通过该文件还原生成 RDB 文件时的数据库状态 10.1 RDB 文 ...
分类:数据库   时间:2021-06-23 16:26:57    阅读次数:0
spark-RDD缓存,checkpoint机制,有向无环图,stage
spark-RDD缓存,checkpoint机制,有向无环图,stage 1.RDD依赖关系 RDD依赖关系有2种不同类型,窄依赖和宽依赖。 窄依赖(narrow dependency):是指每个父RDD的Partition最多被子RDD一个Partition使用。就好像独生子女一样。窄依赖的算子包 ...
分类:其他好文   时间:2021-06-22 18:39:47    阅读次数:0
Redis问题集
问题一:启动的时候 解决方案: 在命令行中输入如下命令即可: 1. redis-cli.exe 2. shutdown 3. exit 4. redis-server.exe redis.windows.conf ...
分类:其他好文   时间:2021-06-22 18:23:41    阅读次数:0
十六、.net core(.NET 6)搭建基于Redis的Hangfire定时器
搭建基于Redis的Hangfire定时器 Hangfire的定时配置信息会自动生成在指定到数据库内,包括关系型数据库或非关系型数据库内。目前为止,它在Redis、Oracle上面,可以支持最短15秒的定时周期,其他数据库是分钟级别到。以下使用Hangfire+Redis来实现定时任务。 首先创建新 ...
分类:Web程序   时间:2021-06-21 20:18:39    阅读次数:0
30354条   上一页 1 ... 3 4 5 6 7 ... 3036 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!