码迷,mamicode.com
首页 > 编程语言 > 详细

Hive中使用python

时间:2015-09-14 19:35:10      阅读:154      评论:0      收藏:0      [点我收藏+]

标签:

使用方法如下

set mapred.reduce.tasks = 300;

add file /home/work/process.py;

insert overwrite  directory /mydir/

select * 
from(
 from(
     select id, name
     from hive_table_one
     where name = 张三
  )one
  join 
  (
     select id, name
     from hive_table_two
     where name = 李四
  )two
  on one.id = two.id
  reduce one.id, one.name, two.id, two.name
  using /home/sharelib/python/bin/python process.py
  as id, name
)redall

在process.py脚本处理Hive表中的NULL数据时,需要注意一下。

# 判断name是否为NULL的语句如下
if (name == \N)

#如果是先查询出结果,存成文本,再进行处理。那么就会是
if (name == NULL)

 

Hive中使用python

标签:

原文地址:http://www.cnblogs.com/cfox/p/4807972.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!