码迷,mamicode.com
首页 > 其他好文 > 详细

Hive列操作汇总(添加/更新/删除/虚拟列)

时间:2020-07-21 09:46:44      阅读:105      评论:0      收藏:0      [点我收藏+]

标签:info   添加   指定   play   pac   如何   支持   create   修改   

官网语法如下所示
https://cwiki.apache.org/confluence/display/Hive/GettingStarted#GettingStarted-AlteringandDroppingTables

***注意:***REPLACE列 替换所有现有列,只更改表的模式,而不是数据。表必须使用本机SerDe。REPLACE列 还可以用于从表的模式中删除列.

添加字段

一次增加一个列(默认添加为最后一列)
ALTER TABLE table_name ADD COLUMNS (new_col INT); 
可以一次增加多个列
ALTER TABLE table_name ADD COLUMNS (c1 INT,c2 STRING); 
添加一列并增加列字段注释
ALTER TABLE table_name ADD COLUMNS (new_col INT COMMENT ‘a comment‘);

改变列名/类型/位置/注释

ALTER TABLE table_name CHANGE
    [CLOUMN] col_old_name col_new_name column_type
    [CONMMENT col_conmment]
    [FIRST|AFTER column_name]
    [CASCADE|RESTRICT];

该命令将允许用户更改列的名称、数据类型、注释、位置或它们的任意组合,但必须先存在该字段才能修改名字及指定位置.

列更改命令只修改Hive的元数据,不修改数据。用户应该确保表/分区的实际数据布局符合元数据定义。

无论表或分区的保护模式如何,ALTER TABLE CHANGE COLUMN CASCADE子句都将覆盖表分区的列元数据。使用自由裁量权。

// 首先将列a的名称更改为a1:
ALTER TABLE test_change CHANGE a a1 INT;
 
//将列a1的名称更改为a2,将其数据类型更改为字符串,并将其放在列b之后:
ALTER TABLE test_change CHANGE a1 a2 STRING AFTER b;
注意:列位置更换后数据位置还是不动的,若想让数据跟着字段一起移动,需更新表数据,
使用insert overwrite table 从表中将移动之前对应的数据插入到移动之后对应的字段中

// 新表的结构是: 
 b int, a2 string, c int.
 
// 然后将c列的名称改为c1,并将其作为第一列:
ALTER TABLE test_change CHANGE c c1 INT FIRST;

// 此时新表的结构是: 
 c1 int, b int, a2 string.

添加/更新列

ALTER TABLE table_name 
  [PARTITION partition_spec]                 -- (Note: Hive 0.14.0 and later)
  ADD|REPLACE COLUMNS (col_name data_type [COMMENT col_comment], ...)
  [CASCADE|RESTRICT]                         -- (Note: Hive 1.1.0 and later)

添加列允许您在现有列的末尾,但在分区列之前添加新列。对于Avro支持的表、Hive 0.14和更高版本,也支持这种方法。
REPLACE列删除所有现有列并添加新的列集。这只能用于具有本机SerDe的表(DynamicSerDe、元数据类型pedcolumnsetserde、LazySimpleSerDe和ColumnarSerDe)。REPLACE列还可以用于删除列。


删除列示例:

   原有Hive表test_change中有a,b,c,d,e这几个字段
   将从test_change中删除“d”列:
     ALTER TABLE test_change REPLACE COLUMNS (a int, b int,c string,e string);
   将d和e两列一起删除:
      ALTER TABLE test_change REPLACE COLUMNS (a int, b int,c string);

注意:如果列字段比较多,可以用show create table table_name; 显示建表语句,将字段一次性复制进来,删除哪些字段就直接去除即可.

 

Hive表中的虚拟(隐藏)列:
在hive中直接可以直接使用的列,无需创建

INPUT__FILE__NAME:   maptask中的输入文件
BLOCK__OFFSET__INSIDE__FILE:   记录在文件中的偏移量

示例:

SELECT  carid,
    carbrand,
    INPUT__FILE__NAME ,
    BLOCK__OFFSET__INSIDE__FILE 
from test.car_info
ORDER BY carid desc
limit 50;

技术图片

 

 该虚拟列可用于查找数据在hdfs文件系统对应的存储路径及偏移量

Hive列操作汇总(添加/更新/删除/虚拟列)

标签:info   添加   指定   play   pac   如何   支持   create   修改   

原文地址:https://www.cnblogs.com/luxj/p/13352464.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!