使用flume收集数据,将数据传递给kafka和hdfs,kafka上的数据可以使用storm构建实时计算,而hdfs上的数据,经过MR处理之后可以导入hive中进行处理。 环境:hadoop1.2.1,hive 0.13.1,maven 3.2.5,flume 1.4,kafka 0.7.2,ec...
分类:
Web程序 时间:
2015-03-14 18:17:55
阅读次数:
4961
题意:Mr Wang wants some boys to help him with a project. Because the project is rather complex,the more boys come, the better it will be. Of course ther...
分类:
其他好文 时间:
2015-03-13 12:08:05
阅读次数:
103
Hadoop的HDFS集群非常容易出现机器与机器之间磁盘利用率不平衡的情况,比如集群中添加新的数据节点。当HDFS出现不平衡状况的时候,将引发很多问题,比如MR程序无法很好地利用本地计算的优势,机器之间无法达到更好的网络带宽使用率,机器磁盘无法利用等等。可见,保证HDFS中的数据平衡是非常重要的.....
分类:
其他好文 时间:
2015-03-11 01:54:02
阅读次数:
192
好比,工行的“三大平台”+“三大产品线”布局是由董事长姜建清亲自对媒体披露的;而组织架构的改革,农行最为彻底盐城办假承兑汇票,其在总行成立网络金融部,使互联网金融业务运作的专业性与独立性大为提高;建行的特色在于依托“善融商务”电子商务平台的先发优势,环绕这一..
分类:
其他好文 时间:
2015-03-10 01:31:52
阅读次数:
208
Problem Description
Have you ever heard the story of Blue.Mary, the great civil engineer? Unlike Mr. Wolowitz, Dr. Blue.Mary has accomplished many great projects, one of which is the Guanghua Building.
The public opinion is that Guanghua Building is no...
分类:
编程语言 时间:
2015-03-05 22:24:55
阅读次数:
265
周六,duang,今天是 OSC 年后第一天上班,神清气爽,今天会来一位小小编哦,期待~ 不知道第一次来 OSC 上班他是不是拒绝的。。。 @mr桀骜不驯 ?: 当我第一次写代码的时候,其实我是拒绝的 @带刀的麦兜 :当我第...
分类:
其他好文 时间:
2015-02-28 13:13:47
阅读次数:
168
A Famous Music Composer时间限制:1000ms | 内存限制:65535KB难度:1描述Mr. B is a famous music composer. One of his most famous work was his set of preludes. These 24...
分类:
其他好文 时间:
2015-02-28 13:02:03
阅读次数:
124
谷歌计划3月份在更大范围内发布Android 5.1。莫弗斯在回答用户有关One M7 Google Play版智能手机的问题时表示,“这与谷歌计划在3月份发布的下一个MR(维护版本)有关”,表明他已经获悉谷歌在更大范围内发布Android升级版的时间。
Android 5.1将改进“OK Google”命令,以及Lollipop的通知功能,延长电池续航时间,但谷歌尚未公开讨论And...
分类:
移动开发 时间:
2015-02-28 11:31:17
阅读次数:
156
HIVE学习总结
Hive只需要装载一台机器上,可以通过webui,console,thrift接口访问(jdbc,odbc),仅适合离线数据分析,降低数据分析成本(不用编写mapreduce)。
Hive优势
1. 简单易上手,类sql的hql、
2. 有大数据集的计算和扩展能力,mr作为计算引擎,hdfs作为存储系统
3. 统一的...
分类:
数据库 时间:
2015-02-24 17:32:33
阅读次数:
506