备注：此处的hadoop版本是3.1.4 一、配置集群 1.1、配置yarn-site.xml <!-- Reducer获取数据的方式 --> <property> <name>yarn.nodemanager.aux-services</name> <value>mapreduce_shuffle ...
分类：
其他好文 时间：
2021-02-02 10:48:15
阅读次数：
0
UDF：用户定义（普通）函数，只对单行数值产生作用；UDF只能实现一进一出的操作。UDF函数自定义实现步骤如下： 定义UDF函数，如计算两个数之和 package com.starzy.udf; import org.apache.hadoop.hive.ql.exec.UDF; public cl ...
分类：
其他好文 时间：
2021-02-01 12:38:19
阅读次数：
0
Hadoop搭建HA遇到的坑 重要报错信息 Zookeeper日志 Cannot open channel to 2 at election address node03/172.17.0.4:3888 java.net.ConnectException: Connection refused (C ...
分类：
其他好文 时间：
2021-02-01 12:17:43
阅读次数：
0
环境是hive和Hadoop 报错如：User: liwei is not allowed to impersonate anonymous 修改hadoop 配置文件 $HADOOP_HOME/etc/hadoop/core-site.xml <property> <name>hadoop.pro ...
分类：
编程语言 时间：
2021-01-27 13:53:02
阅读次数：
0
<！-- demodemo.xml --><dependency> <groupId>org.apache.hadoop</groupId> <artifactId>hadoop-mapreduce-client-core</artifactId> <version>2.7.0</version> ...
分类：
其他好文 时间：
2021-01-26 12:23:58
阅读次数：
0
一、新增节点 语法 #其中-s 为有序节点，-e 临时节点 create [-s] [-e] path data 创建持久化节点并写入数据： # 创建hadoop节点并写入数据123456： create /hadoop "123456" 创建持久化有序节点，此时创建的节点名为指定节点名 + 自增序 ...
分类：
系统相关 时间：
2021-01-22 12:13:51
阅读次数：
0
1.准备环境 安装centos7，在此我准备了五个虚拟机，分别命名为L1，L2,L3,L4,L5.计划在L1上面运行Master节点，在L3,L4,L5上面运行Worker节点。网络配置以及ssh免密登陆配置不再详细讲解，请参考我的另外一篇博客：虚拟机网络配置以及准备工作：https://blog. ...
分类：
其他好文 时间：
2021-01-22 11:44:51
阅读次数：
0
Java诞生于1995年 JVM = java虚拟机 Java virtual machine 图形界面的程勋Applet，现在逐渐被淘汰 1998年java分为三个部分 - java2标准版 （J2SE）占领桌面端 - java2移动版 （J2ME）占领手机端 - java2企业版 （J2EE）占 ...
分类：
编程语言 时间：
2021-01-20 11:56:51
阅读次数：
0
一 、 Hadoop 集群架构设计 二 、 搭建集群 修改IP地址与hostname以及部署zookeeper、hadoop见上一篇博文《Hadoop 完全分布式搭建》。 三 、修改配置文件 修改nna上的core-site.xml <configuration> <!-- 指定hdfs的names ...
分类：
其他好文 时间：
2021-01-19 12:16:24
阅读次数：
0
前言： 端口号：21881 ZooKeeper是一个分布式的，开放源码的分布式应用程序协调服务，是Google的Chubby一个开源的实现，是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性服务的软件，提供的功能包括：配置维护、域名服务、分布式同步、组服务等。 本质：主要作用是注册 ...
分类：
其他好文 时间：
2021-01-19 12:08:39
阅读次数：
0
