网站用户行为分析 步骤 1.1 本地数据集上传到数据仓库Hive 数据集下载与查看 数据集预处理 把数据集导入HDFS中 在Hive上创建数据库 1.2 Hive数据分析 给出数据分析需求 用select语句实现数据分析 数据分析结果查看与保存 1.3 Hive、MySQL、HBase数据互导 操作 ...
分类：
Web程序 时间：
2020-12-31 12:08:34
阅读次数：
0
Hadoop3 No FileSystem for scheme "hdfs" 异常信息： org.apache.hadoop.fs.UnsupportedFileSystemException: No FileSystem for scheme "hdfs" at org.apache.hadoo ...
分类：
其他好文 时间：
2020-12-31 11:55:00
阅读次数：
0
操作过程 2.1 数据准备 A.1sudo mkdir usr/local/bigdatacase A.2sudo chown -R hadoop:hadoop ./bigdatacase A.3mkdir usr/local/bigdatacase/dataset A.4 A.5 B.1sed - ...
分类：
Web程序 时间：
2020-12-30 11:30:32
阅读次数：
0
二 HDFS部署 主要步骤如下：1． 配置Hadoop的安装环境；2． 配置Hadoop的配置文件；3． 启动HDFS服务；4． 验证HDFS服务可用。1‘ 查看是否存在hadoop安装目录 ls /usr/cstor/hadoop 如果没有，利用工具从本地导入hadoop安装文件。 查看jdk是否 ...
分类：
其他好文 时间：
2020-12-30 11:10:24
阅读次数：
0
kudu计算公式：假设:tabletserver32台master5台最大数据存储量为，复制和压缩后，每个tabletserver9.6TB。每个tabletserver管理的tablet为3000，包含tablet的副本。基于以上限制，可以推测出一下内容：分区=每行大小*总条数<=3.2Gtablet（限制每一台tablet-server1500个分区）,目前现在总kudu表为1546张表
分类：
其他好文 时间：
2020-12-30 10:41:55
阅读次数：
0
需要准备 hadoop-2.6.0-cdh5.7.0 、jdk1.8.0_161 、zookeeper-3.4.5-cdh5.7.0、 hive-1.1.0-cdh5.7.0 1.在hadoop 的etc/hadoop/目录中的文件 core-site.xml 添加下面代码 ，其中颜色标记部分为你的 ...
分类：
其他好文 时间：
2020-12-29 11:30:43
阅读次数：
0
1，这一步就是查询详情了，配合填写报表一起使用，这里直接开始写业务逻辑层 1 #region 查询海外仓情况报表-年报 2 /// <summary> 3 /// 查询海外仓情况报表-年报 4 /// </summary> 5 /// <param name="mainId">企业id</param ...
分类：
其他好文 时间：
2020-12-29 11:10:42
阅读次数：
0
hadoop1.X架构 架构模型 分布式文件系统核心模块: namenode:集群中的主节点,管理元数据(文件的大小,文件的位置,文件的权限)。 secondaryNameNode:辅助namenode管理元数据信息。 dadanode:集群当中的从节点,主要存储集群中的各种数据。 分布式数据计算核 ...
分类：
其他好文 时间：
2020-12-28 11:29:22
阅读次数：
0
hive作为一个sql查询引擎，自带了一些基本的函数，比如count(计数)，sum(求和)，有时候这些基本函数满足不了我们的需求，这时候就要写hive hdf(user defined funation)，又叫用户自定义函数。 UDF 创建与使用步骤 继承org.apache.hadoop.hiv ...
分类：
其他好文 时间：
2020-12-25 13:07:42
阅读次数：
0
大数据量在MySQL中查询分页排序，数据量就会很大 我们可以把limit与order by拆分为两个步骤 先根据条件 把limit、ordey by相关的数据的索引查出来，然后再根据索引查询具体的字段信息（也就是两层嵌套） 例： select id, user_name, id, user_name ...
分类：
数据库 时间：
2020-12-25 13:04:20
阅读次数：
0
