码迷,mamicode.com
首页 > 其他好文 > 详细

Hive快速入门

时间:2019-03-13 16:47:26      阅读:220      评论:0      收藏:0      [点我收藏+]

标签:包括   idt   alt   image   cal   mysq   计划   用户   个数   

一.简介

  Hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供简单的sql查询功能,可以将sql语句转换为MapReduce任务进行运行。 其优点是学习成本低,可以通过类SQL语句快速实现简单的MapReduce统计,不必开发专门的MapReduce应用,十分适合数据仓库的统计分析。

  Hive是建立在 Hadoop 上的数据仓库基础构架。它提供了一系列的工具,可以用来进行数据提取转化加载(ETL),这是一种可以存储、查询和分析存储在 Hadoop 中的大规模数据的机制。Hive 定义了简单的类 SQL 查询语言,称为 HQL,它允许熟悉 SQL 的用户查询数据。同时,这个语言也允许熟悉 MapReduce 开发者的开发自定义的 mapper 和 reducer 来处理内建的 mapper 和 reducer 无法完成的复杂的分析工作。
  Hive 没有专门的数据格式。 Hive 可以很好的工作在 Thrift 之上,控制分隔符,也允许用户指定数据格式。

二.架构

  1.用户接口主要有三个:CLI,Client 和 WUI。其中最常用的是CLI,Cli启动的时候,会同时启动一个Hive副本。Client是Hive的客户端,用户连接至Hive Server。在启动 Client模式的时候,需要指出Hive Server所在节点,并且在该节点启动Hive Server。 WUI是通过浏览器访问Hive。

  2.Hive将元数据存储在数据库中,如mysql、derby。Hive中的元数据包括表的名字,表的列和分区及其属性,表的属性(是否为外部表等),表的数据所在目录等。

  3.解释器、编译器、优化器完成HQL查询语句从词法分析、语法分析、编译、优化以及查询计划的生成。生成的查询计划存储在HDFS中,并在随后有MapReduce调用执行。    4.Hive的数据存储在HDFS中,大部分的查询、计算由MapReduce完成(包含*的及类似的查询除外,比如select * from tbl不会生成MapRedcue任务)。

技术图片

三.HQL解释过程

  技术图片

四.Hive搭建模式

  1.local模式

    此模式连接到一个In-memory的数据库Derby,一般用于Unit Test。

    技术图片

  

  2.单用户模式

    通过网络连接到一个数据库中,是最经常使用到的模式

    技术图片

  3.远程服务器模式/多用户模式

     用于非Java客户端访问元数据库,在服务器端启动MetaStoreServer,客户端利用Thrift协议通过MetaStoreServer访问元数据库

    技术图片

 

Hive快速入门

标签:包括   idt   alt   image   cal   mysq   计划   用户   个数   

原文地址:https://www.cnblogs.com/yszd/p/10523820.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!