期间遇到了无法转value的值为int型,我采用try catch解决
str2 2
str1 1
str3 3
str1 4
str4 7
str2 5
str3 9
用的\t隔开,得到结果
str1 1,4
str2 2,5
str3 3,9
str4 7
我这里map,reduce都是单独出来的类,用了自定义的key
package com.kan...
分类:
其他好文 时间:
2014-06-05 06:52:38
阅读次数:
353
下面是基于KWIC 的关键字匹配算法(管道+过滤器模式下实现)
关键部分的管道+过滤器 软件体系下的实现, 在很多的关键字搜索平台都使用了这一 循环移位+排序输出的 关键字匹配算法:
具体需求如下:
1、使用管道-过滤器风格:
每个过滤器处理数据,然后将结果送至下一个过滤器,。要有数据传入,过滤器即开始工作。过滤器之间的数据共享被严格限制在管道传输
四个过滤器:
输入(Input fi...
分类:
其他好文 时间:
2014-06-04 22:35:16
阅读次数:
572
最近开始使用MapReduce,发现网上大部分例子都是对文本数据进行处理的,也就是说在读取输入数据时直接使用默认的TextInputFormat进行处理即可。对于文本数据处理,这个类还是能满足一部分应用场景。但是如果要处理以二进制形式结构化记录存储的文件时,这些类就不再适合了。
本文以一个简单的应用场景为例:对按照二进制格式存储的整数做频数统计。以此来说明如何重写FileInputFormat来实现对非文本数据的处理。...
分类:
其他好文 时间:
2014-06-04 21:53:46
阅读次数:
341
(转载请注明出处:http://blog.csdn.net/buptgshengod)1.參会有感
首先还是非常感谢CSDN能给我票,让我有机会參加这次中国云计算峰会。感觉不写点什么对不起CSDN送我的门票(看到网上卖一千多一张呢)。
还是得从国家会议中心说起,两年前lz以前在那当过IDF...
分类:
其他好文 时间:
2014-06-03 08:21:39
阅读次数:
299
java 学习写架构必会几大技术点关于学习架构,必须会的几点技术1. java反射技术2.
xml文件处理3. properties属性文件处理4. 线程安全机制5. annocation注解6. 设计模式7. 代理机制(aop)8.
serlvet基础(过滤器等等)几样比较实用的技术:1. 模板语...
分类:
编程语言 时间:
2014-06-03 04:48:34
阅读次数:
224
在hibernate中对象中的关联集合,默认是采用懒加载,hibernate是由session来进行数据库访问操作,在访问完action之后,session关闭。使用过滤器可以解决,是的hibernate的session在action使用之后关闭。在web.xml文件中增加一个过滤器,代码如下:
1...
分类:
系统相关 时间:
2014-05-31 13:46:39
阅读次数:
481
Hive是基于Hadoop的开源数据仓库工具,提供了类似于SQL的HiveQL语言,使得上层的数据分析人员不用知道太多MapReduce的知识就能对存储于Hdfs中的海量数据进行分析。由于这一特性而收到广泛的欢迎。Hive的整体框架中有一个重要的模块是执行模块,这一部分是用Hadoop中MapRed...
分类:
其他好文 时间:
2014-05-30 14:23:07
阅读次数:
409
一、过滤器的作用
在MVC项目当中,当我们要实现这些功能时:身份验证,异常处理、日志记录,性能统计,如果按照一般的做法那就需要在每个页面重复做这些工作,这样做起来不仅费时费力,代码也会变得冗余难懂,如何在不改变原有代码结构添加这些功能呢?AOP就是为了解决这一类问题而产生的。AOP,意为:面向切面....
分类:
Web程序 时间:
2014-05-30 00:55:45
阅读次数:
321
使用内置的Camera应用程序捕获图像
所有带有合适硬件(摄像头)的原版Android设备都会附带Camera应用程序。Camera应用程序包含一个意图过滤器(intent
filter),它使得开发人员能够提供与Camera应用程序同等的图像捕获能力,而不必构建他们自己的定制捕获例程。Camera...
分类:
移动开发 时间:
2014-05-30 00:12:48
阅读次数:
272
http://dongxicheng.org/mapreduce/hadoop-join-two-tables/http://dongxicheng.org/mapreduce/run-hadoop-job-problems/http://dongxicheng.org/mapreduce/hdfs...
分类:
其他好文 时间:
2014-05-29 12:27:09
阅读次数:
260