码迷,mamicode.com
首页 >  
搜索关键字:hadoop集群    ( 910个结果
Hadoop 在Windows7操作系统下使用Eclipse来搭建hadoop开发环境
1、 需要下载hadoop的专门插件jar包hadoop版本为2.3.0,hadoop集群搭建在centos6x上面,插件包下载地址为:http://download.csdn.net/detail/mchdba/8267181,jar包名字为hadoop-eclipse-plugin-2.3.0,...
分类:Windows程序   时间:2014-12-18 01:34:27    阅读次数:372
SpatialHadoop实例:面向空间数据的高效MapReduce框架
本文实例介绍了SpatialHadoop平台,它是第一个基于成熟MapReduce对空间数据具有原生支持的框架。SpatialHadoop是对Hadoop的做了一个全面的扩展,使其核心功能可以支持空间数据。因此,对于处理空间数据,SpatialHadoop与目前存在的Hadoop项目相比具有更好的性能。SpatialHadoop主要包括一个简单的空间高级语言、两级空间索引结构,以及建立在MapReduce层的基本空间组件和三个基本空间操作(范围查询、K-NN查询和空间链接)。其他的空间操作同样也可以在Spa...
分类:其他好文   时间:2014-12-17 14:45:31    阅读次数:414
Hadoop 在Windows7操作系统下使用Eclipse来搭建hadoop开发环境
网上有一些都是在Linux下使用安装Eclipse来进行hadoop应用开发,但是大部分Java程序员对linux系统不是那么熟悉,所以需要在windows下开发hadoop程序,所以经过试验,总结了下如何在windows下使用Eclipse来开发hadoop程序代码。 1、 需要下载hadoop的专门插件jar包hadoop版本为2.3.0,hadoop集群搭建在centos6x上面,插件包下载...
分类:Windows程序   时间:2014-12-17 01:39:14    阅读次数:414
Yarn架构基本概况(二)
在概况(一)中,主要简单的对Yarn的情况作了简单的介绍,今天花一定时间在某些具体的模块上呈现以下Yarn的整体情况,帮助大家更好的理解Yarn。 1)ResourceManager 在Yarn的整体架构中,他用的也是Master/Slave架构,他的Slave是NodeManager,RM在Yarn中扮演着一个非常重要的角色,他是负责集群中所有资源的统一管理和分配的。他根据各个NM的资源汇报...
分类:其他好文   时间:2014-12-16 17:08:18    阅读次数:178
HDInsight如何创建Hadoop集群
HDInsight如何创建Hadoop集群 带大家一起看下微软Azure云中的Hadoop集群创建,首先你必须先创建个存储账号,然后新建Hadoop集群,等待21分钟左右,一个Hadoop集群就创建完成了,看图:...
分类:其他好文   时间:2014-12-15 19:07:50    阅读次数:206
Map/Reduce 工作机制分析 --- 错误处理机制
前言 对于Hadoop集群来说,节点损坏是非常常见的现象。 而Hadoop一个很大的特点就是某个节点的损坏,不会影响到整个分布式任务的运行。 下面就来分析Hadoop平台是如何做到的。硬件故障 硬件故障可以分为两种 - JobTracker节点损坏和TaskTracker节点损坏。 1.J...
分类:其他好文   时间:2014-12-12 23:30:07    阅读次数:276
hadoop中secondarynamenode节点添加方法
当时,hadoop已经安装成功,但是secondarynamenode没有启动 后来经过研究,原来是配置的目录有问题 首先修改一下shell文件 文件路径:/home/work/hadoop/bin 原来:master  现在:secondarynamenode  [work@master bin]$ cat start-dfs.sh #!/usr/bin/env bash ...
分类:其他好文   时间:2014-12-11 15:56:46    阅读次数:224
hadoop既是datanode又是secondarynamenode节点方法
首先配置好,secondarynamenode 如果也想让这个单独的计算机,也作为datanode呢,用一下方法,就可以了, 把原来的secondarynamenode的节点加入到,从节点的文件里面就可以了。 [work@master conf]$ cat slaves node1 node2 node3 [work@master conf]$ cat secondarynameno...
分类:其他好文   时间:2014-12-11 15:47:02    阅读次数:170
通过Sahara部署Hadoop集群
本文主要对如何在Sahara环境上部署Hadoop集群做一个总结,也把自己部署的时候填过的坑总结下,避免其他人在同一个坑掉下。...
分类:其他好文   时间:2014-12-11 14:07:57    阅读次数:377
计算下微软Windows Azure HDInsight中Hadoop和HBase的成本和省钱秘籍
计算下微软Windows Azure HDInsight中Hadoop和HBase的成本和省钱秘籍 计算: 以一个最简单Hadoop集群来计算,需要两个头节点(Namenode)和两个数据节点(Datanode)以及3个Zookeeper结点,这样算下来每小时要5.44+2.72*2+0*3=10.88RMB,每天需要10.88*24=261.12RMB,每个月需要261.12*30=7833.6RMB,这是最低配置!...
分类:Windows程序   时间:2014-12-11 12:30:37    阅读次数:219
910条   上一页 1 ... 77 78 79 80 81 ... 91 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!