RDD的checkpoint机制

标签：level   执行   区别   一个   rdd   系统   故障   数据丢失   设置   

checkpoint原理机制

当RDD使用cache机制从内存中读取数据，如果数据没有读到，会使用checkpoint机制读取数据。此时如果没有checkpoint机制，那么就需要找到父RDD重新计算数据了，因此checkpoint是个很重要的的容错机制。checkpoint就是对于一个RDDchain（链），如果后面需要反复使用某些中间结果RDD，可能因为一些故障导致该中间数据丢失，那么就可以针对该RDD启动checkpoint机制，使用checkpoint首先需要调用sparkContext的setCheckpoint方法，设置一个容错文件系统目录，比如HDFS，然后对RDD调用checkpoint方法。之后再RDD所处的job运行结束后，会启动一个单独的job来将checkpoint过的数据写入之前设置的文件系统持久化，进行高可用。后面的计算使用该RDD时，如果数据丢了，但是还是可以从他的checkpoint中读取数据，不需要重新计算

checkpoint和持久化的区别：

1. 持久化只是将数据保存在BlockManager中，而RDD的lineage是不变的。但是checkpoint执行完后，RDD已经没有之前所谓的依赖RDD了，而只有一个强行为其设置的checkpointRDD，RDD的lineage改变了。
2. 持久化的数据丢失可能性更大，磁盘、内存都可能会存在数据丢失的情况，因为磁盘内存都有可能被清理。但是checkpoint的数据通常是存储在如HDFS等容错、高可用的文件系统，数据丢失可能性较小。

• 注：默认情况下，如果某个RDD没有持久化，但是设置了checkpoint，会存在问题，本来这个job都执行结束了，但是由于中间RDD没有持久化，checkpoint job想要将RDD的数据写入外部文件系统的话，需要全部重新计算一次，再将计算出来的RDD数据checkpoint到外部文件系统。所以，建议对checkpoint()的RDD使用 persist(StorageLevel.DISK_ONLY),该RDD计算之后，就直接持久化到磁盘上。后面进行checkpoint操作时就可以直接从磁盘上读取RDD的数据，并checkpoint到外部系统

RDD的checkpoint机制

标签：level   执行   区别   一个   rdd   系统   故障   数据丢失   设置   

原文地址：https://www.cnblogs.com/xuziyu/p/11060094.html