码迷,mamicode.com
首页 > 其他好文 > 详细

HDFS读写分析

时间:2020-01-06 14:42:27      阅读:67      评论:0      收藏:0      [点我收藏+]

标签:pip   puts   完成   分布式文件系   ack   机制   过程   bsp   chunk   

写流程:

技术图片

 

正常:

1.HDFS客户端调用分布式文件系统的create方法远程过程调用namenode的create方法

namenode内完成几项判断

返回客户端

2.调用FSDataOutputStream的write方法 同时该流告诉Namenode addblock

返回列表 然后开始写

3.chunk  package  data queue  

ack queue

4.检验

 

异常分析:网络中断

namenode 

1.关闭pipline

2.新的id,version

3.心跳机制 给命令

4.删除老的数据

5.构建新的pipline

HDFS读写分析

标签:pip   puts   完成   分布式文件系   ack   机制   过程   bsp   chunk   

原文地址:https://www.cnblogs.com/terrycode/p/12155964.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!