码迷,mamicode.com
首页 > Web开发 > 详细

hive计算网页停留时长

时间:2017-07-08 12:25:44      阅读:547      评论:0      收藏:0      [点我收藏+]

标签:结果   last   set   时间   任务   line   相减   .exe   distrib   

hive表结构例如以下:

 

create table pv_user_info(
session_id string, 
user_id string,
url string,
starttime bigint
);


主要就是这几个字段实用。省略其它。

 

实现方式:userid和sessionid分组后并按时间降序排序,降序排序后。第一行就是该用户最后一次浏览的网页。最后一行是第一次浏览的网页,第一行的starttime和第二行的starttime相减就是第二行停留时间。

这里会有几个误差
用户最后一次浏览的网页时长:由于不知道用关闭浏览器的时间。所以没办法计算,就返回一个特定的值吧,我这里返回的是0。


跨天:任务是按天统计,还没有第二天的数据,所以不考虑跨天。
连续点开多个网页:按上面的实现方式就会有误差。这是没办法的。

按产生日志文件的结果看。仅仅能用这样的实现方式,除非专门写个js记录网页停留时长(不知是否可行),那么就不须要用hive了。

详细实现:
1.要实现行与行之间的比較或算加减法hive sql是实现不了的,仅仅有自己定义函数UDF
2.定义全局变量,存上次浏览时间。sessionid。userid
3.第一次调用evaluate方法上次浏览时间肯定是空的。也就是说是用户在这一天里最后一次浏览网页的时间,直接返回0即可了。
4.再次调用evaluate方法要推断是不是同上一次调用evaluate方法是不是同一个用户同一个会话。假设是的话就相减。
5.调用evaluate方法假设和上一次调用不是一个用户。说明这个网页是还有一个用户最后一次浏览网页的时间。直接返回0。

 

hiveUDF代码

import org.apache.hadoop.hive.ql.exec.UDF;

public class CalcUDF extends UDF {

	// 记录上一次訪问信息
	private String[] lastLine = new String[2];;

	// 记录上次一次訪问时间
	private Long lastTime = null;

	public Long evaluate(Long currentTime, String[] currentLine) {
		if (lastTime == null) {

			lastTime = currentTime;
			for (int i = 0; i < currentLine.length; i++) {
				lastLine[i] = currentLine[i];
			}

			return 0L;
		} else {
			// 同一个用户sessionId 和 userId 相等
			if (currentLine[0].equals(lastLine[0])&& currentLine[1].equals(lastLine[1])) {
				Long useTime = lastTime - currentTime;

				lastTime = currentTime;

				for (int i = 0; i < currentLine.length; i++) {
					lastLine[i] = currentLine[i];
				}
				return useTime;
			} else { // 还有一个用户
				lastTime = currentTime;
				for (int i = 0; i < currentLine.length; i++) {
					lastLine[i] = currentLine[i];
				}
				return 0L;
			}
		}
	}
}


将代码打成jar包。上传到/home/hadoop/test/

进入hive命令行,运行:

add jar /home/hadoop/test/hiveUDF.jar; // 加入jar包 

create temporary function calc as 'com.orange.hadoop.CalcUDF';    //创建函数

//最后运行hive sql

select session_id,user_id,url,starttime, 
calc(starttime,user_id,session_id) 
from 
(select * from pv_user_info distribute by user_id,session_id sort by  user_id,session_id ,starttime desc) t;


 

 这是我的实现方式。有没有更好的解决方式?

 

 

hive计算网页停留时长

标签:结果   last   set   时间   任务   line   相减   .exe   distrib   

原文地址:http://www.cnblogs.com/claireyuancy/p/7136286.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!