码迷,mamicode.com
首页 >  
搜索关键字:hadoop yarn搭建    ( 13956个结果
hadoop 多表关联
5、多表关联 多表关联和单表关联类似,它也是通过对原始数据进行一定的处理,从其中挖掘出关心的信息。下面进入这个实例。5.1 实例描述 输入是两个文件,一个代表工厂表,包含工厂名列和地址编号列;另一个代表地址表,包含地址名列和地址编号列。要求从输入数据中找出工厂名和地址名的对应关系,输出"工厂名——地...
分类:其他好文   时间:2014-06-21 06:29:10    阅读次数:221
hadoop 倒排索引
6、倒排索引 "倒排索引"是文档检索系统中最常用的数据结构,被广泛地应用于全文搜索引擎。它主要是用来存储某个单词(或词组)在一个文档或一组文档中的存储位置的映射,即提供了一种根据内容来查找文档的方式。由于不是根据文档来确定文档所包含的内容,而是进行相反的操作,因而称为倒排索引(Inverted In...
分类:其他好文   时间:2014-06-21 00:35:21    阅读次数:371
Hadoop 2.2.0 Job源代码阅读笔记
本文所有涉及的内容均为2.2.0版本中呈现。 概述: Job在创建Job并且提交的人的眼中,可以在创建的时候通过配置Job的内容,控制Job的执行,以及查询Job的运行状态。一旦Job提交以后,将不能对其进行配置,否则将会出现IllegalStateException异常。 正常情况下用户...
分类:其他好文   时间:2014-06-20 23:46:15    阅读次数:374
hive 学习之异常篇
一、刚装上hive在执行hive启动的过程中出现[hadoop@localhost hive-0.6.0]$ hiveInvalid maximum heap size: -Xmx4096mThe specified size exceeds the maximum representable si...
分类:其他好文   时间:2014-06-20 22:17:04    阅读次数:278
简要的谈谈文本数据挖掘的一般步骤
[QQ群: 189191838,对算法和C++感兴趣可以进来] 数据挖掘领域一直都非常的火。现在炒的非常热的大数据,其实也是数据挖掘的一个应用而已,不管工程师用的是Hadoop还是其他平台,其实都是对一堆的数据进行分析,计算,然后得到我们希望得到的结果。所以我们可以知道,文本数据挖掘的必要性是...
分类:其他好文   时间:2014-06-20 21:49:12    阅读次数:255
FastDFS分布式文件存储
存储能力是提供给上层业务系统以实现文件存取服务,这个存储能力为XDFS,即可扩展的分布式文件系统,实现的原理是封装了第三方的分布式存储系统实现的。目前封装的第三方分布式系统包括FastDFS、Hadoop的HDFS,所提供的存储接口如下: 1 文件上传 2 文件断点上传 3 文件...
分类:其他好文   时间:2014-06-20 21:21:55    阅读次数:470
hadoop家族之mahout安装
步骤一、下载mahout http://www.apache.org/dyn/closer.cgi/mahout/我下载的是mahout-distribution-0.9.tar.gz 16-Feb-2014 08:31 66M 步骤二、下载完成后放到Linux中并解压解压命令:tar -zxvf ...
分类:其他好文   时间:2014-06-20 21:09:06    阅读次数:178
二、Ubuntu14.04下安装Hadoop2.4.0 (伪分布模式)
在Ubuntu14.04下安装Hadoop2.4.0 (单机模式)基础上配置一、配置core-site.xml/usr/local/hadoop/etc/hadoop/core-site.xml 包含了hadoop启动时的配置信息。编辑器中打开此文件sudo gedit /usr/local/had...
分类:其他好文   时间:2014-06-20 20:25:13    阅读次数:270
安装hadoop2.4.0遇到的问题
一、执行start-dfs.sh后,datenode没有启动 查看日志如下: 2014-06-18 20:34:59,622 FATAL org.apache.hadoop.hdfs.server.datanode.DataNode: Initialization failed for bloc.....
分类:其他好文   时间:2014-06-20 19:51:18    阅读次数:160
Hadoop学习资料整理
hadoop 0.18文档(详细介绍Hadoop,MapReduce,FS Shell,Streaming等)hadoop资料汇总(XX搜集的,还没看)streaming(非java程序员的福音)Hadoop Streaming编程实例Hadoop Streaming编程Hadoop Streami...
分类:其他好文   时间:2014-06-20 18:33:43    阅读次数:160
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!