Flink运行模式分为:集群模式、单机模式 集群模式:Flink的并行度取决于配置文件中的默认值,如下如所示: 在此配置的默认值下,全局的所有算子平行度都是1,我们也可以在程序中重写这个并行度 设置方式如下: 在本地模式下:默认的并行度为CPU核数可以执行线程数的最大值。比如:一台 8核 16线程的 ...
分类:
其他好文 时间:
2020-04-11 18:11:57
阅读次数:
140
一、首先,我们假设已经准备好三台互相联网的Linux机器,它们的IP地址分别为IP1、IP2和IP3。 二、配置文件zoo.cfg。初次使用ZooKeeper, 需要将%ZK_ HOME%/conf目录下的z00_ sample.cfg 文件重命名为zoo.cfg,并且按照如下代码进行简单配置即可: ...
分类:
其他好文 时间:
2020-04-09 12:38:57
阅读次数:
72
Redis在日常部署的时候,可以有多种部署模式:单机、主从、哨兵、集群(分区分片),因此本例将对上面这四种模式进行详细的讲解,特别是集群模式将进行最细致的讲解(现行普遍使用的方式)。 一、单机部署 单机部署很简单,直接下载Redis进行安装即可,此处不作详细讲解,具体Redis的安装请参考:Mac下 ...
分类:
其他好文 时间:
2020-04-07 09:15:04
阅读次数:
84
一、部署Rabbitmq集群Rabbitmq集群大概分为两种方式:1、普通模式:默认的集群模式,消息的尸体只存在一个节点上;2、镜像模式:把需要的队列做成镜像,存在于多个节点。ha-mode:?all:列队到所有节点;?exatly:随机镜像到其他节点上;?nodes:镜像到指定节点上。集群节点模式:1、内存节点:工作在内存上;2、磁盘节点:工作在磁盘上;例外:内存节点和磁盘节点共同存在,提高访问
分类:
其他好文 时间:
2020-04-06 17:16:39
阅读次数:
84
1:topic下面的queue 奇偶数会影响消费端的消费数量, 假设 4个队列,8个消息,每个节点各自消费两条,如果不对等的话,就没办法做一个负载均衡 队列的数量要大于consumer数量,不然多出来的consumer无法分配到queue,消息没办法消费,需要控制队列大于消费端 2:集群模式和广播模 ...
分类:
其他好文 时间:
2020-04-06 16:01:42
阅读次数:
135
Redis 的哨兵模式基本已经可以实现高可用,读写分离 ,但是在这种模式下每台 Redis 服务器都存储相同的数据,很浪费内存,所以在redis3.0上加入了 Cluster 集群模式,实现了 Redis 的分布式存储,也就是说每台 Redis 节点上存储不同的内容。 根据官方推荐,集群部署至少要 ...
分类:
其他好文 时间:
2020-04-05 09:37:45
阅读次数:
65
Hadoop有三种模式:本地模式、伪分布模式、集群模式 1、本地模式 1、在/opt下面创建一个software文件 2、将文件hadoop-2.6.5.tar.gz拷贝到 /opt/software下面 3、在usr下创建hadoop把hadoop-2.6.5.tar.gz 复制到 /usr/ha ...
分类:
其他好文 时间:
2020-04-02 11:42:47
阅读次数:
75
前面我们已经安装了flink,与storm一样,flink也有两种模式,一是本地模式,主要用于学习和测试,另一个是集群模式,实际生产中使用这种模式。本节将阐述如何使用本地模式的flink进行词频统计。 1 系统、软件以及前提约束 CentOS 7 64 工作站 作者的机子ip是192.168.100 ...
分类:
其他好文 时间:
2020-03-30 00:09:57
阅读次数:
64
Redis我们一般是用作缓存,扛并发;或者用于某些特定的业务场景,比如前面说到redis各种数据类型的使用场景以及redis的哨兵和集群模式。 这里主要整理了下redis用作缓存,存在的一些问题,以及改善方案。 简单的流程就像这个样子,一般请先到缓存区获取,如果缓存没有再到后端的数据库去查询。 1. ...
分类:
其他好文 时间:
2020-03-29 01:06:34
阅读次数:
61
一、redis 和 memcached 有啥区别? 1. redis 支持复杂的数据结构 redis 相比 memcached 来说,拥有更多的数据结构,能支持更丰富的数据操作。如果需要缓存能够支持更复杂的结构和操作, redis 会是不错的选择。 2. redis 原生支持集群模式 在 redis ...
分类:
编程语言 时间:
2020-03-25 21:40:01
阅读次数:
77