HDFS小文件问题及解决方案:http://dongxicheng.org/mapreduce/hdfs-small-files-solution/Hadoop升级方案(一):Hadoop
1.0内部版本升级(初稿):http://dongxicheng.org/mapreduce-nextgen/...
分类:
其他好文 时间:
2014-05-10 02:08:24
阅读次数:
327
单词计数是最简单也是最能体现MapReduce思想的程序之一,可以称为MapReduce版"Hello
World",该程序的完整代码可以在Hadoop安装包的"src/examples"目录下找到。单词计数主要完成功能是:统计一系列文本文件中每个单词出现的次数,如下图所示。现在我们以"hadoop...
分类:
其他好文 时间:
2014-05-10 01:54:48
阅读次数:
445
Hadoop
MapReduce开发最佳实践(上篇)本文是Hadoop最佳实践系列第二篇,上一篇为《Hadoop管理员的十个最佳实践》。MapRuduce开发对于大多数程序员都会觉得略显复杂,运行一个WordCount(Hadoop中hello
word程序)不仅要熟悉MapRuduce模型,还要了...
分类:
其他好文 时间:
2014-05-08 21:45:46
阅读次数:
640
dataguru访问地址:http://f.dataguru.cn/?fromuid=99611课程优惠码:C4B6这段时间一直在dataguru(炼数成金)上学习《hadoop数据分析平台(第十四期)》,说说我对炼数成金的印象。最开始听说dataguru是通过它的广告邮件中的链接,发送的对象是it...
分类:
其他好文 时间:
2014-05-08 21:19:30
阅读次数:
727
Hadoop集群(第9期)_MapReduce初级案例 - 虾皮 - 博客园1、数据去重
"数据去重"主要是为了掌握和利用并行化思想来对数据进行有意义的筛选。统计大数据集上的数据种类个数、从网站日志中计算访问地等这些看似庞杂的任务都会涉及数据去重。下面就进入这个实例的MapReduce程序设计。1....
分类:
其他好文 时间:
2014-05-08 20:38:16
阅读次数:
669
如果不考虑其他任何问题,只比较速度的话,那肯定是mem快,但他们各有优缺点。文件缓存优点:1、由于现在的硬盘都非常大,所有如果是大数据的时候,放硬盘里就比较合适,比如做一个cms网站,网站里有10万篇文章,生成的文件大小总数可能就会很大。2、数据的存放较为安全,由于是硬盘存放,所以在意外掉电的情况下...
分类:
Web程序 时间:
2014-05-08 20:03:19
阅读次数:
307
import java.io.IOException;import
java.util.Iterator;import java.util.StringTokenizer;import
org.apache.hadoop.conf.Configuration;import org.apache.ha...
分类:
其他好文 时间:
2014-05-07 19:14:58
阅读次数:
416
http://wenku.baidu.com/link?url=AuuxwYzcTmbX2ong2ZVjfuUfLPalAc8499-cudGtys_BwP1tPGzFH36Bxoqvn_UXATAJDuDmtOFdGkzP6FVIvzNfHLCBHk0VFFa4A4as3mK正解
分类:
系统相关 时间:
2014-05-07 18:40:32
阅读次数:
435
今天下午神奇的“黑色30秒”再次降临,而这次“黑色30秒”期间没有出现Requests
Queued。现在我们猜测“黑色30秒”的触发条件是在高并发下线程突然卡住了。为什么线程会卡住?为什么会是30秒?应用程序的原因,Windows的原因,还是阿里云的原因?大家可以投投票。
分类:
其他好文 时间:
2014-05-07 18:28:46
阅读次数:
425
虚拟机(Vmware)安装XP虚拟机时,硬盘分好区之后,就是设置成光盘启动来安装系统,但是vmware默认是硬盘启动,所以会启动不了或者别的问题存在。所以要进bios里面设置成开机的启动顺序,要将光盘设置成第一启动项。但vm的开机画面比笔记本的还要快很多,基本都在1s内的,想进入bios里面也有难度...
分类:
移动开发 时间:
2014-05-07 09:34:52
阅读次数:
465