码迷,mamicode.com
首页 > 其他好文 > 详细

Hadoop Mapreduce的运行机制

时间:2018-01-27 21:19:10      阅读:194      评论:0      收藏:0      [点我收藏+]

标签:监控   相同   com   mapred   并行   log   独立   调度   ado   

技术分享图片

  在Hadoop中,一个MapReduce作业会把输入的数据集切分为若干独立的数据块,由Map任务以完全并行的方式处理。框架会对Map的输出先进行排序,然后把结果输入给Reduce任务。作业的输入和输出都会被存储在文件系统中,整个框架负责任务的调度和监控,以及重新执行已关闭的任务。MapReduce框架和分布式文件系统是运行在一组相同的节点,计算节点和存储节点都是在一起的。

Hadoop Mapreduce的运行机制

标签:监控   相同   com   mapred   并行   log   独立   调度   ado   

原文地址:https://www.cnblogs.com/1iHu4D0n9/p/8367020.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!