前言 本文讲解Hadoop中的编程及计算模型MapReduce,并将给出在MapReduce模型下编程的基本套路。模型架构 在Hadoop中,用于执行计算任务(MapReduce任务)的机器有两个角色:一个是JobTracker,一个是TaskTracker,前者用于管理和调度工作,后者用于执行.....
分类:
其他好文 时间:
2014-10-29 18:42:56
阅读次数:
256
1. MapReduce与云计算 MapReduce是google的一个云计算模型。 云计算主要分为三个层次:IaaS、Paas、SaaS,即Infrastructure as a Service、Platform as a Service、Software as a Service,如图1所示。 ...
分类:
其他好文 时间:
2014-10-29 12:46:10
阅读次数:
651
编程开发本质是运用程序和计算机来解决现实中的各种问题,因此,编程开发人员的才智发挥载体是计算机或者说计算设备,直接武器是程序。程序员用来进行编程开发所需要的技能,归结起来主要如下: 1. 理解计算模型和框架:顺序计算、并发计算(并行计算、分布式计算); 理解应用所基于的计算模型和框架是非常重要...
分类:
其他好文 时间:
2014-10-20 20:50:54
阅读次数:
149
计算模型:源于对计算过程的不同认识;基于不同计算模型一般分为:命令式语言;函数式语言;逻辑式语言;面向对象程序设计语言;基于程序本质分类:命令式:结构化编程(冯诺依曼:计算机系统以存储和处理为核心)【面向存储的编程】;面向对象编程;说明式:函数式;其他;//命令式语言基于存储结构进行算法设计;即:算...
分类:
Web程序 时间:
2014-10-09 13:43:23
阅读次数:
183
/* 版权声明:可以任意转载,转载时请务必标明文章原始出处和作者信息 .*/ author: 张俊林 节选自《大数据日知录:架构与算法》十四章,书籍目录在此 对于离线挖掘类图计算而言,目前已经涌现出众多各方面表现优秀而各具特点的实际系统,典型的比如Pregel、Giraph、Hama、PowerG...
分类:
数据库 时间:
2014-10-09 02:20:18
阅读次数:
267
本章内容什么是HadoopHadoop项目及其结构Hadoop的体系结构Hadoop与分布式开发Hadoop计算模型—MapReduceHadoop的数据管理小结1.1 什么是Hadoop1.1.1 Hadoop概述Hadoop是Apache软件基金会旗下的一个开源分布式计算平台。以Hadoop分布...
分类:
其他好文 时间:
2014-09-25 15:48:39
阅读次数:
320
一、MapReduce简介1.1 MapReduce概述 MapReduce是一种分布式计算模型,由Google提出,主要用于搜索领域,解决海量数据的计算问题。MR由两个阶段组成:Map和Reduce,用户只需要实现map()和reduce()两个函数,即可实现分布式计算,其执行流程如图1。这两个....
分类:
其他好文 时间:
2014-09-23 22:14:05
阅读次数:
368
mongoDB的MapReduce简介 分类: MongoDB2012-12-06 21:378676人阅读评论(2)收藏举报MongoDB MapReduceMapReduce是一种计算模型,简单的说就是将大批量的工作(数据)分解(MAP)执行,然后再将结果合并成最终结果(REDUCE)。这样.....
分类:
数据库 时间:
2014-09-19 17:32:45
阅读次数:
377
WWW是以Internet作为传输媒介的一个应用系统,WWW网上最基本的传输单位是Web网页。WWW的工作基于客户机/服务器计算模型,由Web 浏览器(客户机)和Web服务器(服务器)构成,两者之间采用超文本传送协议(HTTP)进行通信。HTTP协议是基于TCP/IP协议之上的协议,是Web浏览器和...
分类:
其他好文 时间:
2014-09-12 20:38:04
阅读次数:
229
1. 计算
学习DSA的目的是实现有效的和高效的计算,同时在资源消耗的方面做到足够的低廉。
计算 = 信息处理:借助某些工具,遵照一定规则,以明确而机械的形式进行。
计算模型 = 计算机 = 信息处理工具
算法:在特定的计算模型下,旨在解决特定问题的指令序列。
算法的要素:
输入
待处理的信息(问题)
输出
经处理的信...
分类:
其他好文 时间:
2014-09-11 20:58:52
阅读次数:
225