码迷,mamicode.com
首页 > 其他好文 > 详细

3.1

时间:2020-02-12 22:01:50      阅读:67      评论:0      收藏:0      [点我收藏+]

标签:red   数据库表   工具   bsp   derby   政府部门   可扩展   rdbms   数据仓库   

基础概述

Hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供简单的SQL查询功能,可以将SQL语句转换为MapReduce任务进行运行。

其优点是学习成本低,可以通过类SQL语句快速实现简单的MapReduce统计,不必开发专门的MapReduce应用,十分适合数据仓库的统计分析。

Hive构建在基于静态批处理的Hadoop之上,由于Hadoop通常都有较高的延迟并且在作业提交和调度的时候需要大量的开销。因此,Hive并不适合那些需要低延迟的应用,它最适合应用在基于大量不可变数据的批处理作业,例如,网络日志分析。

Hive的特点是:可伸缩(在Hadoop集群上动态的添加设备)、可扩展、容错、输出格式的松散耦合。

Hive将元数据存储在关系型数据库(RDBMS)中,比如MySQLDerby中。

 

需求概述

在本节中,我们将使用Hive对以下指标进行统计并演示:

1.需求1:分析每年的信件数量

2.需求2:分析信件是属于投诉还是属于咨询,及投诉和咨询的数量

3.需求3:分析对信件进行回答的政府部门5.自定义UDF,区分信件时间的月份

4.使用UDF

3.1

标签:red   数据库表   工具   bsp   derby   政府部门   可扩展   rdbms   数据仓库   

原文地址:https://www.cnblogs.com/gkl20173667/p/12301045.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!