声明：1）本文由我bitpeach原创撰写，转载时请注明出处，侵权必究。
2）本小实验工作环境为Ubuntu操作系统，hadoop1-2-1，jdk1.8.0。
3）统计词频工作在单节点的伪分布上，至于真正实际集群的配置操作还没有达到，希望能够由本文抛砖引玉。（一）Hadoop的配置修正 网上有很多...
分类：
其他好文 时间：
2014-05-05 21:54:47
阅读次数：
456
在Hadoop集群环境下安装Mahout。环境：OS：Centos 6.5 x64 &
Soft：Hadoop 1.2.1 & Mahout
0.91、简介mahout项目主页：https://mahout.apache.org/下载二进制包，上传到服务器。2、安装用集群环境用户安装，解压二进制包。...
分类：
其他好文 时间：
2014-05-05 21:35:23
阅读次数：
429
之前在写MR
job的时候，由于要在云梯，或者一淘的开发集群上运行；所以处理方法是，在本地打成jar包，然后scp到客户端网关机上，然后在提交job运行。这样的问题时，有时候如果遇到一些逻辑上的问题，job跑挂了。必须在本地修改程序，然后重新打包，scp，再运行，这样比较麻烦；询问了一圈，觉得采用M...
分类：
其他好文 时间：
2014-05-04 10:54:29
阅读次数：
427
能够将热爱的技术应用于实际生活生产中，是做技术人员向往和乐之不疲的事。
现将前期手里面的一个项目做一个大致的总结，与大家一起分享、交流、进步。项目现在正在线上运行，项目名——基于Hadoop的数据分析综合管理平台。
项目流程整体比较清晰，爬取数据（txt文本）-->数据清洗-->文本模型训练-->文本分类-...
分类：
其他好文 时间：
2014-05-04 00:22:05
阅读次数：
476
前两天将Hadoop2的完全分布式搭建文档整理发布于网上（http://blog.csdn.net/aaronhadoop/article/details/24859369），朋友相邀，就再将Hadoop2的伪分布式文档整理一下，搭建过Hadoop2完全分布式后，就笑对“伪分布式”说声
呵呵吧。
前期的jdk环境、SSH免密钥登录配置在此就不再赘述了，直接进入hadoop2的配...
分类：
其他好文 时间：
2014-05-03 21:51:45
阅读次数：
344
一、概述：
Yarn调度器有许多实现，如Fifo, Capacity和Fair schedulers等。与其同时，正在进行一些优化措施来提高调度器在不同负载和工作场景下的性能。每个调度器都有自己的特性，调度决策受许多因素影响，如公平行、计算能力保证和资源的可靠性等。在部署一个调度算法到生产集群之前，评估一个调度算法是非常重要的，不幸的是，评估一个调度算法是不那么容易的，评估一个真正的集群是非常耗...
分类：
其他好文 时间：
2014-05-03 21:00:00
阅读次数：
443
LVS-NAT是通过改变数据包中的目的IP地址,来实现调度的.拓扑图：说明:Director是调度服务器、RealN为真实服务器(这里用四台).实验用vmware虚拟机和小凡模拟器来完成,为了保证物理上确实是隔离开的,需要不同的vmnet网卡相连.lClient与路由器之间用vmnet1连接;l路由器与Director之..
分类：
其他好文 时间：
2014-05-03 20:43:31
阅读次数：
551
在配置集群时，每个节点上有很多相同的配置，如启动服务相同、安装程序、提供相同的配置文件，甚至定制相同的任务计划来定期执行某些操作等。如果你管理的只是三两个节点配置起来还是相当简单的，但是有三五十台，甚至上百台你还要自已一个一个手动来配置，那就太痛苦了。因些..
分类：
其他好文 时间：
2014-05-03 20:42:02
阅读次数：
572
服务器IP:192.168.1.101系统CentOS6.4以下所有的操作都是在服务器端；客户端是在VMware上操作的，网络要选择NAT模式。1.需要在服务器端安装的软件：dhcptftp-serverxinetdsyslinuxnfs-utils安装：yumdhcp*tftp*syslinux*nfs-utils2.安装完后修改配置文件：vim/etc/dhcp/dhcpd.c..
分类：
其他好文 时间：
2014-05-03 20:35:43
阅读次数：
376
LVS-NAT模型：工作原理：将内部地址转化为Internets上可用的外部地址。NAT的工作原理是报文头（目标地址、源地址和端口等）被正确改写后，客户相信它们连接一个IP地址，而不同IP地址的服务器组也认为它们是与客户直接相连的。由此，可以用NAT方法将不同IP地址的并行网络服务变..
分类：
其他好文 时间：
2014-05-03 20:35:15
阅读次数：
409
