hadoop1.X架构 架构模型 分布式文件系统核心模块: namenode:集群中的主节点,管理元数据(文件的大小,文件的位置,文件的权限)。 secondaryNameNode:辅助namenode管理元数据信息。 dadanode:集群当中的从节点,主要存储集群中的各种数据。 分布式数据计算核 ...
分类:
其他好文 时间:
2020-12-28 11:29:22
阅读次数:
0
kubesphere3.0安装部署填坑记录标签(空格分隔):kubernetes系列[toc]一:系统环境1.1系统环境初始化系统:Centos7.8x64cat/etc/hosts-----192.168.100.11node01.flyfish.cn192.168.100.12node02.flyfish.cn192.168.100.13node03.flyfish.cn192.168.100
分类:
其他好文 时间:
2020-12-28 11:03:15
阅读次数:
0
hive作为一个sql查询引擎,自带了一些基本的函数,比如count(计数),sum(求和),有时候这些基本函数满足不了我们的需求,这时候就要写hive hdf(user defined funation),又叫用户自定义函数。 UDF 创建与使用步骤 继承org.apache.hadoop.hiv ...
分类:
其他好文 时间:
2020-12-25 13:07:42
阅读次数:
0
一. 前期准备 1. Vmware workstation pro 16 官网下载 : https://www.vmware.com/ 密钥:ZF3R0-FHED2-M80TY-8QYGC-NPKYF (若失效请自行百度) 2. xshell,xftp 官网下载(需要注册) 3. 国内镜像网站下载c ...
章节: 第一章节:CentOS 7 配置hadoop(一) 安装虚拟机(伪分布) 第二章节:CentOS 7 配置hadoop(二) 配置hdfs(伪分布) 第三章节:CentOS 7 配置hadoop(三) 配置hbase(伪分布) 第四章节:CentOS 7 配置hadoop(四) 配置hive ...
分类:
其他好文 时间:
2020-12-21 11:30:46
阅读次数:
0
hadoop Shuffle Error: Exceeded MAX_FAILED_UNIQUE_FETCHES; bailing-out 程序里面需要打开多个文件,进行分析,系统一般默认数量是1024,(用ulimit -a可以看到)对于正常使用是够了,但是对于程序来讲,就太少了。修改办法:修改2 ...
分类:
其他好文 时间:
2020-12-19 13:37:26
阅读次数:
3
OpenStack学习了解步骤OpenStack安装部署准备工作OpenStackkeystone组件OpenStackGlance组件OpenStackPlacement组件OpenStackNova组件OpenStackNeutron网络组件介绍(重要)OpenStackCinder组件介绍OpenStackhorizon组件介绍OpenStack启动实例
分类:
其他好文 时间:
2020-12-19 12:24:49
阅读次数:
1
连接hdfs 根据hdfs的版本引用相关的hdfs依赖 <!-- https://mvnrepository.com/artifact/org.apache.hadoop/hadoop-client --> <dependency> <groupId>org.apache.hadoop</group ...
一、Metricbeat概念 1、介绍 2、组成 3、安装部署系统 二、使用 1、查看启用的Module 2、重新编译安装nginx 3、状态说明 4、修改配置文件 5、启动 6、查看返回结果 ...
分类:
其他好文 时间:
2020-12-18 12:46:30
阅读次数:
3
1. 配置主机名 [root@hadoop01 ~]# hostname #显示当前主机名 方法一:通过配置文件/etc/hostname (重启后生效) [root@hadoop01 ~]# vim /etc/hostname 方法二:通过命令hostnamectl set-hostname 新主 ...
分类:
其他好文 时间:
2020-12-17 12:11:05
阅读次数:
2