目前hadoop1的稳定版本是1.2.1,我们以版本1.2.1为例详细的介绍hadoop1的安装,此过程包括OS安装与配置,JDK的安装,用户和组的配置,这些过程在hadoop2也有可能用到。Hadoop
版本:1.2.1OS 版本: Centos6.4Jdk 版本: jdk1.6.0_32环境配置...
分类:
其他好文 时间:
2014-05-16 22:21:50
阅读次数:
435
[转载]大数据人才流失: 科研为何陷入困境已有 5 次阅读2014-5-13
12:27|系统分类:观点评述推荐到群组无论无处不在的“大数据”概念引起怎样的联想,逐步增长的数据规模确是改变着我们和世界的交互方式。这在工业界、政界、媒体、学术界,几乎任何领域,都是事实。逐渐增强的对大数据进行收集、处理...
分类:
其他好文 时间:
2014-05-16 21:34:11
阅读次数:
254
Step1:关闭防火墙 service iptables stop[status] service
iptables status chkconfig --list |grep iptables chkconfig iptables offStep2:修改IP
(重启网卡:se...
分类:
其他好文 时间:
2014-05-16 21:22:50
阅读次数:
318
很多时候,我们测试时,如果进行大数据量的并发测试时,单个电脑的CPU和内存可能无法承受,这个时候,我们需要进行一个分布式的测试,比如10000个并发,使用三台电脑来进行并发
Jmeter提供了这种功能,你可以很轻松的实现Jmeter的这种分布式测试1 首先确何所有的电脑上都安装Jmeter2 在所....
分类:
其他好文 时间:
2014-05-16 18:02:34
阅读次数:
253
1
org.slf4j.impl.StaticLoggerBinder.SINGLETON错误方案:确保slf4j-api-1.5.6.jar
和slf4j-log4j12-1.5.6.jar 版本一致如果发布,pom中其他依赖的jar包排除上面两个2 本地调试不行,在LocalCluster
cl...
分类:
其他好文 时间:
2014-05-16 06:55:48
阅读次数:
251
1、分层:
分层是企业应用系统中最常见的一种架构模式,将系统在横向维度上切分成几个部分,每个部分负责一部分比相对比较单一的职责 ,然后通过上层对下层的依赖和调用组成一个完整的系统。
分层结构无处不在,例如网络7层通信协议,计算机硬件、操作系统、软件也可以看做是分层结构。在大型网站中也采用分层结构。将网站分为应用层、服务层、数据访问层, 通过分层,可以将一个庞大的系统...
分类:
Web程序 时间:
2014-05-15 05:25:27
阅读次数:
381
简介
Encrypted Shuffle capability (加密洗牌功能?)允许用HTTPS 和 可选的客户端验证 (也称作双向的 HTTPS, 或有客户端证书的 HTTPS) 去加密 MapReduce shuffle.它包括:
在HTTP 和 HTTPS 之间绑定 shuffle 的一个 Hadoop 配置用来指定 keystore 和 truststore 属性的Hado...
分类:
其他好文 时间:
2014-05-15 04:59:35
阅读次数:
301
高并发,大数据量,你的系统考虑哪些问题?1,订票系统案例,某航班只有一张机票,假定有1w个人打开你的网站来订票,问你如何解决并发问题(可扩展到任何高并发网站要考虑的并发读写问题)问题,1w个人来访问,票没出去前要保证大家都能看到有票,不可能一个人在看到票的时候别人就不能看了。到底谁能抢到,那得看这个...
分类:
其他好文 时间:
2014-05-14 13:54:11
阅读次数:
197
基于HBase实现的手机数据备份系统,实现了手机关键信息的备份,如短信、联系人等。包括服务器端(Server)和客户端(Client)Server运行环境:Hadoop+HBase+TomcatClient运行环境:
Eclipse+Android2.3Server端介绍:接收客户端请求的Actio...
分类:
移动开发 时间:
2014-05-14 13:18:12
阅读次数:
374
Microsoft发布了他们自己对Apache
Avro通信协议的实现。Avro被描述为“紧凑的二进制数据序列化格式,类似于Thrift或者Protocol
Buffers”,同时还有像Hadoop这样的分布式处理环境所需要的额外功能。 为了让该协议尽可能地快,Microsoft Avro类库会在运...
分类:
其他好文 时间:
2014-05-14 10:59:37
阅读次数:
336