MapReduce数据清洗及Hive数据库操作

标签：视频   apr   strong   date   行数据   表结构   mapred   string   需要   

1、 数据清洗：按照进行数据清洗，并将清洗后的数据导入hive数据库中。

两阶段数据清洗：

（1）第一阶段：把需要的信息从原始日志中提取出来

ip:    199.30.25.88

time:  10/Nov/2016:00:01:03 +0800

traffic:  62

文章： article/11325

视频： video/3235

（2）第二阶段：根据提取出来的信息做精细化操作

ip--->城市 city（IP）

date--> time:2016-11-10 00:01:03

day: 10

traffic:62

type:article/video

id:11325

（3）hive数据库表结构:

create table data(  ip string,  time string , day string, traffic bigint,

type string, id   string )

MapReduce数据清洗及Hive数据库操作

标签：视频   apr   strong   date   行数据   表结构   mapred   string   需要   

原文地址：https://www.cnblogs.com/yishaui/p/11853945.html