码迷,mamicode.com
首页 > 其他好文 > 详细

ODPS 下map / reduce 的编写

时间:2014-05-09 02:33:28      阅读:418      评论:0      收藏:0      [点我收藏+]

标签:odps   阿里   广告推荐   hadoop   大数据   

 

  接到阿里电话说实习和竞赛智能二选一, 真伤心, 在实习前发挥余热吧.

 

   总结一下在ODPS下 编写map / reduce 和进行购买预测的过程.

 

   首先这里的hadoop输入输出都是表的形式, 我们需要一张输入表和一张输出表.

   输入表为 提供的 t_alibaba_bigdata_user_brand_total_1  输出表为自定义的wc_out

   wc_out 需要预先定义.  下面的实例的功能是合并用户对商品的操作并记录重复次数, 创建的wc_out表结构为:

   create table wc_out(user_id string,brand_id string,type string,visit_datetime string,count bigint);

 

  然后在eclipse 中进行map /recduce 程序的编写.

 

bubuko.com,布布扣bubuko.com,布布扣

bubuko.com,布布扣

bubuko.com,布布扣

 

将工程导出为jar文件.(略)

在ODPS中创建资源并运行

bubuko.com,布布扣

运行完成

bubuko.com,布布扣

 

接下来就可以设计更复杂的模型来进行预测了

 

 

ODPS 下map / reduce 的编写,布布扣,bubuko.com

ODPS 下map / reduce 的编写

标签:odps   阿里   广告推荐   hadoop   大数据   

原文地址:http://blog.csdn.net/ltianchao/article/details/25312013

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!