码迷,mamicode.com
首页 > 其他好文 > 详细

Kettle导入数据到Hive 出现多余的几行全部是null值的情况

时间:2018-04-11 11:34:43      阅读:514      评论:0      收藏:0      [点我收藏+]

标签:分析   bubuko   类型   tle   构建   image   sel   分享   div   

 Kylin构建Cube的时候老是报错,说是有空值,其实源数据中是不存在空值的。为什么建Cube的时候会有呢?

技术分享图片

执行完毕后使用Hive查询发现多了好几行全部是null的行。

技术分享图片

 

这在源数据中是不存在的。分析可能的原因是文本类型中存在特殊字符,例如 Tab,回车,换行字符。所以在抽取源数据中增加过滤。

Sql中的特殊字符

char(9) 水平制表符
char(10)换行键
char(13)回车键

原来的SQL
 select FItemID,FParentID
,FNumber
,FName 
from  表名 

 换成

 select FItemID,FParentID
,replace(replace(replace(FNumber,char(9),‘‘),char(10),‘‘),char(13),‘‘) FNumber
,replace(replace(replace(FName,char(9),‘‘),char(10),‘‘),char(13),‘‘) FName 
from  表名 

 

修改完毕后重新抽取数据,建模OK。



 

Kettle导入数据到Hive 出现多余的几行全部是null值的情况

标签:分析   bubuko   类型   tle   构建   image   sel   分享   div   

原文地址:https://www.cnblogs.com/Bruce_H21/p/8794351.html

(1)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!