码迷,mamicode.com
首页 > 其他好文 > 详细

HDFS存储与架构

时间:2019-07-14 13:23:58      阅读:184      评论:0      收藏:0      [点我收藏+]

标签:info   元数据   int   cat   有一个   没有   交换   容错   通过   

HDFS存储模型

  • 以字节形式存储
  • 文件线性切割成块(Block):偏移量 offset (byte)
  • Block分散存储在集群节点中
  • 单一文件Block大小一致,文件与文件可以不一致
  • Block可以设置副本数,副本无序分散在不同节点中
  • 副本数不要超过节点数量
  • 文件上传可以设置Block大小和副本数(资源不够开辟的进程)
  • 已上传的文件Block副本数可以调整,大小不变(2.x 128MB 3 blocks)
  • 只支持一次写入多次读取,同一时刻只有一个写入者
  • 可以append追加数据

HDFS架构模型

  • 文件元数据MetaData,文件数据    
    • 元数据
    • 数据本身
  • NameNode(主)节点保存文件元数据:单节点   posix
  • DataNode(从)节点保存文件Block数据:多节点
  • DataNode与NameNode保持心跳,提交Block列表
  • HdfsClient与NameNode交互元数据信息
  • HdfsClient与DataNode交互文件Block数据(cs)
  • DataNode 利用服务器本地文件系统存储数据块

HDFS架构图
技术图片
HDFS设计思想

  • 分散均匀存储 dfs.blocksize = 128M
  • 备份冗余存储 dfs.replication = 3


技术图片

NameNode(NN)

  • 基于内存存储 :不会和磁盘发生交换(双向)
    • 只存在内存中
    • 持久化(单向)
  • NameNode主要功能:
    • 接受客户端的读写服务
    • 收集DataNode汇报的Block列表信息
  • NameNode保存metadata信息包括
    • 文件owership和permissions
    • 文件大小,时间
    • (Block列表:Block偏移量),位置信息(持久化不存)
    • Block每副本位置(由DataNode上报)

NameNode持久化

  • NameNode的metadata信息在启动后会加载到内存
  • metadata存储到磁盘文件名为”fsimage”(时点备份)
  • Block的位置信息不会保存到fsimage
  • edits记录对metadata的操作日志…>Redis
  • 二者的产生时间和过程?(format)

SecondaryNameNode(SNN)

  • 它不是NN的备份(但可以做备份),它的主要工作是帮助NN合并edits log,减少NN启动时间。
  • SNN执行合并时机
    • 根据配置文件设置的时间间隔fs.checkpoint.period  默认3600秒
    • 根据配置文件设置edits log大小 fs.checkpoint.size 规定edits文件的最大值默认是64MB    

SNN合并流程图
技术图片

DataNode(DN)

  • 本地磁盘目录存储数据(Block),文件形式
  • 同时存储Block的元数据信息文件
  • 启动DN时会向NN汇报block信息
  • 通过向NN发送心跳保持与其联系(3秒一次),如果NN 10分钟没有收到DN的心跳,则认为其已经lost,并copy其上的block到其它DN

HDFS优点

  • 高容错性
    • 数据自动保存多个副本
    •  副本丢失后,自动恢复
  • 适合批处理
    • 移动计算而非数据
    • 数据位置暴露给计算框架(Block偏移量)
  • 适合大数据处理
    • GB 、TB 、甚至PB 级数据
    • 百万规模以上的文件数量
    • 10K+ 节点
  • 可构建在廉价机器上
    • 通过多副本提高可靠性
    • 提供了容错和恢复 机制

HDFS缺点

  • 低延迟数据访问
    • 比如毫秒级
    • 低延迟与高吞吐率
  • 小文件存取
    • 占用NameNode 大量内存
    • 寻道时间超过读取时间
  • 并发写入、文件随机修改
    • 一个文件只能有一个写者
    • 仅支持append

Block的副本放置策略

  • 第一个副本:放置在上传文件的DN;如果是集群外提交,则随机挑选一台磁盘不太满,CPU不太忙的节点。
  • 第二个副本:放置在于第一个副本不同的 机架的节点上。
  • 第三个副本:与第二个副本相同机架的节点。
  • 更多副本:随机节点

技术图片

 

HDFS存储与架构

标签:info   元数据   int   cat   有一个   没有   交换   容错   通过   

原文地址:https://www.cnblogs.com/dragon-123/p/11182224.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!