码迷,mamicode.com
首页 > 其他好文 > 详细

大数据学习——日志分析

时间:2019-01-09 23:33:20      阅读:343      评论:0      收藏:0      [点我收藏+]

标签:color   code   独立   map   用户数   use   计算   大数   第一个   

有两个海量日志文件存储在hdfs上, 
其中登陆日志格式:user,ip,time,oper(枚举值:1为上线,2为下线);
访问之日格式为:ip,time,url,假设登陆日志中上下线信息完整,切同一上下线时间段内是用的ip唯一,
计算访问日志中独立user数量最多的前10个url,用MapReduce实现。

提示:
1、要统计前10,需要两个步骤,第一个步骤实现join,统计出每个url对应的独立用户数,第二步骤求出top10
2、两个大表join,用同一job多输入
3、要根据ip字段join,所以要根据ip分区
4、求top10

 

大数据学习——日志分析

标签:color   code   独立   map   用户数   use   计算   大数   第一个   

原文地址:https://www.cnblogs.com/feifeicui/p/10247352.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!