发现最近很多人关注CDH版本更新的问题,CDH6更新有一年多的时间了,2019年2月19日,迭代的版本为CDH6.1.1,现在CDH最新的版本已经到CDH6.3.3了。为了方便比较,本文内容主要基于CDH5.16.1和CDH6.1.1进行说明。
分类:
其他好文 时间:
2020-03-10 23:36:12
阅读次数:
95
发现最近很多人关注CDH版本更新的问题,CDH6更新有一年多的时间了,2019年2月19日,迭代的版本为CDH6.1.1,现在CDH最新的版本已经到CDH6.3.3了。为了方便比较,本文内容主要基于CDH5.16.1和CDH6.1.1进行说明。CDH6是基于Hadoop3同时包含大量其他组件的大版本更新的发布版本,许多用户考虑到未来CDH的版本主要是基于CDH6,而CDH5会慢慢的停止更新,所以考
分类:
其他好文 时间:
2020-03-10 12:04:30
阅读次数:
53
本文是在CentOS7.4 下进行CDH6集群的完全离线部署。CDH5集群与CDH6集群的部署区别比较大。 说明:本文内容所有操作都是在root用户下进行的。 文件下载 首先一些安装CDH6集群的必须文件要先在外网环境先下载好。 Cloudera Manager 6.3.0 CM6 RPM:http ...
分类:
其他好文 时间:
2020-02-22 13:43:56
阅读次数:
169
#!/bin/bash #hadoop export HADOOP_HOME=/opt/cloudera/parcels/CDH-5.14.0-1.cdh5.14.0.p0.24 export PATH=${HADOOP_HOME}/bin:${HADOOP_HOME}/sbin:$PATH rea ...
分类:
其他好文 时间:
2020-02-22 00:34:00
阅读次数:
95
Hadoop CDH版本的安装:参考文档http://archive.cloudera.com/cdh5/cdh/5/hadoop-2.6.0-cdh5.7.0/ 下载地址:http://archive.cloudera.com/cdh5/cdh/5/ 安装的版本为:hadoop-2.6.0-cdh ...
分类:
其他好文 时间:
2020-02-13 19:31:10
阅读次数:
79
环境:CDH5.13.3 spark2.3 在提交任务之后,发现executor运行少量几台nodemanager,而其他nodemanager没有executor分配。 通过spark-shell模拟如下: 第一次尝试分配6个exeutor,具体如下 spark2-shell \ --driver ...
分类:
其他好文 时间:
2020-01-21 10:33:56
阅读次数:
120
1 解压软件包 2 copy server包到对应节点 3 scp /mnt/software/phoenix-4.14.1-cdh5.16.1-server.jar hadoop002:/opt/cloudera/parcels/CDH/lib/hbase/lib/ 4 添加配置 <propert ...
分类:
其他好文 时间:
2020-01-12 13:34:10
阅读次数:
105
首先要有HIVE_HOME环境变量, 如果是apache,直接配置为解压目录;如果是CDH,设置如下: # export HIVE_HOME=/opt/cloudera/parcels/CDH-5.16.1-1.cdh5.16.1.p0.3/lib/hive 执行导入 # bin/import-hi ...
分类:
其他好文 时间:
2020-01-11 16:58:15
阅读次数:
411
第一步:首先在dbeaver上选择窗口里的首选项添加maven有的网友很好奇,这个maven是怎么找的呢?首先我们的hive的版本为1.1.0-cdh5.4.9的百度搜maven进入地址为:https://mvnrepository.com/search?q=hive选择cloudearrel选择相应的版本1.1.0-cdh5.4.9接下来,就会看到我们要找的<!--https://mvnr
分类:
数据库 时间:
2020-01-08 17:24:19
阅读次数:
132
1.使用WaterDrop 从kafka中消费数据,写入到ClickHouse 1.1 环境 ~~~ SPARK2 2.3.0.cloudera4 1.cdh5.13.3.p0.611179 clickhouse 1.1.54236 4.el7.x86_64 waterdrop 1.4.2 ~~~ ...
分类:
其他好文 时间:
2019-12-30 19:36:58
阅读次数:
284