同学们:随着比赛的进行,第二季比赛很快就要来临了。在第二季的比赛中,参赛者需登录阿里巴巴ODPS平台,访问海量天猫数据。利用ODPS平台的集成工具与算法,建模与提交结果。目前ODPS提供了一些基础的算法包和工具,可能不能完全满足大家需要。希望能够同学们可以通过回帖的方式反馈给我们,我们将视情况加入大...
分类:
其他好文 时间:
2015-09-15 12:39:47
阅读次数:
163
??
UDF全称User Defined Function,即用户自定义函数。ODPS提供了很多内建函数来满足用户的计算需求,同时用户还可以通过创建自定义函数来满足 不同的计算需求。
UDF种类:
UDF 分类
描述
User Defined Scalar Function,通常也称之为UDF
用户自定义标量值函数(User Defi...
分类:
其他好文 时间:
2015-08-21 15:44:03
阅读次数:
286
ODPS Tunnel是ODPS的数据通道,用户可以通过Tunnel向ODPS中上传或者下载数据。目前Tunnel仅支持表(不包括视图View)数据的上传下载。
主要接口
描述
TableTunnel
访问ODPS Tunnel服务的入口类。用户可以通过公网或者阿里云内网环境对ODPS 及其Tunnel进行访问。当用户在阿里云内网环境中,使用...
分类:
编程语言 时间:
2015-08-14 13:45:39
阅读次数:
317
1.创建分区表:
分区表有自己的分区列,而分区表则没有。
public static void createTableWithPartition(Odps odps, String createTableName)
throws Exception {
Tables tables = odps.tables();// /获取表示ODPS所有Table的集合对象
boolean a...
分类:
其他好文 时间:
2015-08-13 15:51:48
阅读次数:
473
阿里接到一个电话说练习和比赛智能二选一, 真的很伤心, 练习之前积极老龄化的权利. 要总结ODPS下一个 写map / reduce 并进行购买预测过程. 首先这里的hadoop输入输出都是表的形式, 我们须要一张输入表和一张输出表. 输入表为 提供的 t_alibaba_bigdata_use.....
分类:
其他好文 时间:
2015-07-05 13:44:51
阅读次数:
162
吐槽阿里ODPS:SLS收录日志功能只能收取客户端前五分钟的数据,如果出故障就再也折腾不进去了,我技术挫,重指时间列,改时间,改系统时间.....问阿里技术曰:就是只能收前五钟的,原理不可说。SLS数据归档问题,日志数据中,假如只有两列,一列时间,一列json,归档到ODPS中,..
分类:
Web程序 时间:
2015-05-08 11:08:40
阅读次数:
411
自定义函数(UDF)UDF全称User Defined Function,即用户自定义函数。ODPS提供了很多内建函数来满足用户的计算需求,同时用户还可以通过创建自定义函数来满足不同的计算需求。UDF在使用上与普通的 SQL内建函数 类似。在ODPS中,用户可以扩展的UDF有三种,分别是:UDF 分...
分类:
编程语言 时间:
2015-05-05 10:28:28
阅读次数:
1342
什么是SLS?简单日志服务(Simple Log Service,简称SLS)是针对日志收集、存储、查询和分析的服务。用户只需简单地配置日志产生的位置和格式等信息,就能实时查询海量日志,并可通过SLS把日志归档保存到ODPS中做数据分析。SLS提供API写入和查询日志的功能,其中支持多种布尔运算的查...
分类:
其他好文 时间:
2014-12-26 18:31:28
阅读次数:
245
在典型的大数据解决方案里,除了以ODPS这样的离线分布式计算引擎为核心,周边还需要日志收集、开发IDE、工作流调度、数据质量监控、BI报表等等一系列配套机制。因此ODPS用户往往还会对SLS和DPC等服务感兴趣。 先说SLS(简单日志服务),这是阿里云提供的针对日志收集、存储、查询和分析的云服务。用...
分类:
其他好文 时间:
2014-11-12 21:08:16
阅读次数:
402
ODPS正式商业化以后,微博上议论比较多的是计量计费模型。刚好这件事我全程参与,仔细写写。ODPS的计量计费规则和价格请以阿里云官方网站上的说明和数字为准。这里的内容只反映当前状态,不能保证实时更新。 ODPS收费以项目(Project)为单位,对存储、计算和数据下载三个方面分别计费。存储和数据下载...
分类:
其他好文 时间:
2014-11-12 19:44:06
阅读次数:
254