码迷,mamicode.com
首页 >  
搜索关键字:hadoop集群    ( 910个结果
《Hadoop高级编程》之为Hadoop实现构建企业级安全解决方案
本章内容提要 ●    理解企业级应用的安全顾虑 ●    理解Hadoop尚未为企业级应用提供的安全机制 ●    考察用于构建企业级安全解决方案的方法          第10章讨论了Hadoop安全性以及Hadoop中用于提供安全控制的机制。当构建企业级安全解决方案(它可能会围绕着与Hadoop数据集交互的许多应用程序和企业级服务)时,保证Hadoop自身的安全仅仅是安全解决方案的...
分类:其他好文   时间:2014-07-29 13:04:37    阅读次数:488
ganglia收集hbase的metrics
Ganglia监控软件主要是用来监控系统性能的软件,如:cpu 、mem、硬盘利用率, I/O负载、网络流量情况等,通过曲线很容易见到每个节点的工作状态,对合理调整、分配系统资源,提高系统整体性能起到重要作用。 本言讲解如何利用ganglia监控hbase指标,过滤无用的指标,并实现单独管理 hadoop metrics system 的功能,修改指标配置不用重启hbase。...
分类:其他好文   时间:2014-07-26 02:41:16    阅读次数:385
适合国内网速的CDH5安装
使用Cloudera Manager 安装CDH,虽然方便快捷,但是在中国国情的网速下还是需要进行一些特别的处理,才能顺利安装。本文汇总了多个参考文档,详细的记录了安装过程和期间出现的问题与解决方法。...
分类:其他好文   时间:2014-07-24 23:02:34    阅读次数:455
Hadoop集群配置心得(低配置集群+自动同步配置)
本文为本人原创,首发到炼数成金http://f.dataguru.cn/thread-138720-1-1.html。情况是这样的,我没有一个非常强劲的电脑来搞出一个性能非常NB的服务器集群,相信很多人也跟我差不多,所以现在把我的低配置集群经验拿出来写一下好了。我的配备:1)五六年前的赛扬单核处理器...
分类:其他好文   时间:2014-07-19 20:07:37    阅读次数:294
Hadoop集群内lzo的安装与配置
LZO压缩,可分块并行处理,解压缩的效率也是可以的。为了配合部门hadoop平台测试,作者详细的介绍了如何在Hadoop平台下安装lzo所需要软件包:gcc、ant、lzo、lzo编码/解码器并配置lzo的文件:core-site.xml、mapred-site.xml。希望对大家有所帮助。以下是正...
分类:其他好文   时间:2014-07-17 22:01:19    阅读次数:876
Hadoop集群批量命令执行
./pdsh -R ssh -w node-10-0[0-5] hostname-R:指定传输方式,默认为rsh,本例为ssh,如果希望ssh传输需要另行安装pdsh-rcmd-ssh,如果希望ssh无密码访问需要提前配置好。-w:指定待执行命令host,也可以这样配置,node_[1-9, 35,...
分类:其他好文   时间:2014-07-16 21:42:57    阅读次数:275
shell 脚本实战笔记(9)--linux自动批量添加用户
前言: 添加linux用户帐号,这个相对简单, 在面对集群, 许多机器的时候, 我们该如何去做和实现? 这篇短文, 简单讲解一些思路, 尽可能地涉及周边的一些知识点. 不光是运维人员会面临这个问题, 对一个基于linux平台的集群服务或软件(比如hadoop集群), 有时也会涉及到这块.应用场景:....
分类:系统相关   时间:2014-07-16 21:39:15    阅读次数:360
Spark安装
记录安装Spark环境的过程。前提是Hadoop集群已经安装,详见:Hadoop 2.X 集群安装环境:Centos 6.4 X64 & Hadoop 2.2(三节点集群) & Spark 1.01、获取Spark源码,可以去官网下载,解压。2、编译源码。1)先安装Maven。2)进入源码目录,执行...
分类:其他好文   时间:2014-07-16 19:28:29    阅读次数:180
高效搭建Spark完全分布式集群
本文详细总结Spark分布式集群的安装步骤,帮助想要学习Spark的技术爱好者快速搭建Spark的学习研究环境。...
分类:其他好文   时间:2014-07-14 17:17:25    阅读次数:289
centos下hadoop的安装
hadoop的安装不难,但是需要做不少的准备工作。 一、JDK 需要先安装jdk。centos下可以直接通过yum install java-1.6.0-openjdk来安装。不同发布版的安装方式可能不一样。     之后,需要设置ssh为密钥认证登录。如果没有这一步,那么以后每次hadoop运行的时候都会提示输入密码。可以直接ssh-keygen -t rsa一路回车生成ssh的密钥对,然...
分类:其他好文   时间:2014-07-13 18:12:08    阅读次数:278
910条   上一页 1 ... 86 87 88 89 90 91 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!