脚本位置 cd /home/hadoop/bin 脚本内容 vi kafka.sh #输入以下内容 #!/bin/bash case $1 in "start" ){ for(( i = 1;i <= 3;i = $i +1));do echo hadoop0$i kafka $1 ssh hado ...
分类：
其他好文 时间：
2021-06-20 18:41:23
阅读次数：
0
1 集群安装部署 1、下载安装包（http://kafka.apache.org） https://archive.apache.org/dist/kafka/1.1.0/kafka_2.11-1.1.0.tgz kafka_2.11-1.1.0.tgz 2、规划安装目录 /bigdata/inst ...
分类：
其他好文 时间：
2021-06-20 18:39:18
阅读次数：
0
为什么电脑要同步时间？因为电脑自己的钟不准。破电脑一天慢五分钟也不奇怪。 对时需要对到什么精度？一般家用的电脑时钟误差一分钟完全可以接受。集群服务器配合工作一般需要所有的时钟同步在一秒之内。 和谁同步？一般是和世界各地的 NTP （Network Time Protocol）服务器同步的。米国标准时 ...
分类：
其他好文 时间：
2021-06-20 18:29:35
阅读次数：
0
1 kafka概述 什么是Kafka 在流式计算中，Kafka一般用来缓存数据，Storm通过消费Kafka的数据进行计算。 1）Apache Kafka是一个开源消息系统，由Scala写成。是由Apache软件基金会开发的一个开源消息系统项目。 2）Kafka最初是由LinkedIn公司开发，并于 ...
分类：
其他好文 时间：
2021-06-20 17:36:06
阅读次数：
0
原理模型 准备工作 查看是否安装成功 查看 keepalived配置文件 查看keepalived.conf配置文件 //查看服务器网卡 检测脚本配置 ...
分类：
其他好文 时间：
2021-06-19 19:23:54
阅读次数：
0
准备：1. 规划3个集群节点:hosts主机都已经配置好映射，映射主机名分别为master,slave1,slave2,且已经进行ssh免密配置，确保端口互通，防火墙关闭 2. 先安装好scala(参考：https://www.cnblogs.com/sea520/p/13518158.html) ...
分类：
其他好文 时间：
2021-06-19 19:11:31
阅读次数：
0
Hive列转行： select school,concat_ws('|',collect_set(name)) as name from tmp_01 group by school; 注意：collect_set 有重复的会去重， collect_list 有重复的不去重 hive行转列： sel ...
分类：
其他好文 时间：
2021-06-19 19:05:46
阅读次数：
0
HDFS的读取过程 HDFS的读取流程大致有以下几个步骤： （1）客户端通过调用FileSystem对象的open()来打开希望读取的文件。对于HDFS平台来说，这个对象是DistributedFileSystem类的是一个实例，所以实际调用的是DistributedFileSystem对象的ope ...
分类：
其他好文 时间：
2021-06-19 18:42:26
阅读次数：
0
在实现分库分表的情况下，数据库自增主键已经无法保证在集群中是全局唯一的主键了，因此mycat提供了全局的sequence，并且提供了本地配置、数据库配置等多种实现方式。 1. 本地文件方式 采用该方式，mycat将sequence配置到classpath目录的sequence_conf.proper ...
分类：
其他好文 时间：
2021-06-19 18:40:35
阅读次数：
0
一、运行架构 Jenkins的kubernetes plugin在执行构建时会在kubernetes集群中自动创建一个Pod，并在Pod内部创建一个名为jnlp的容器，该容器会连接Jenkins并运行Agent程序，形成一个Jenkins的Master和Slave架构，然后Slave会执行构建脚本进 ...
分类：
其他好文 时间：
2021-06-18 20:01:37
阅读次数：
0
