标签：保存   瓶颈   cto   优点   equal   another   序列   替代   reserve   

Data Serialization

对spark程序来说，可能会产生的瓶颈包括：cpu，网络带宽，内存

在任何分布式应用中数据序列化都非常重要，数据序列化带来的作用是什么？第一减少内存占用，第二减小网络传输带宽消耗。spark提供了两种序列化方式：

1.Java serialization

默认情况下，spark序列化对象使用java的ObjectOutputStream框架，只需要我们在创建类的时候实现 java.io.Serializable


你也可以通过继承java.io.Externalizable来实现更好的性能，java序列化比较灵活但是相对较慢，性能不够好。


2.Kryo serialization

第二种方式就是目前应用比较多的Kryo序列化，
Kryo比Java序列化快很多，并且序列化之后的结果也更小(基本上是java序列的10倍左右)，但是不支持所有的序列化类型，需要在程序中对要使用的类提前注册，以获得最佳性能。

使用kryo序列化只需要在spark程序中设置sparkConf，conf.set("spark.serializer", "org.apache.spark.serializer.KryoSerializer")，这样一来，shuffle时候，在各个节点进行数据传输时就会生效。同理，将RDD序列化到磁盘时候也一样。spark之所以没有把kryo序列化作为默认的序列化方式主要原因就是需要自定义的注册。但是还是墙裂推荐使用kryo序列化的方式，尤其那些网络密集型的应用。从spark2.0.0开始，当shuffle那些基本数据类型，数组或者string类型的RDD时候，已经默认使用kryo序列化了。

对于自定义的类使用kryo序列化：

val conf = new SparkConf().setMaster(...).setAppName(...)
conf.registerKryoClasses(Array(classOf[MyClass1], classOf[MyClass2]))
val sc = new SparkContext(conf)

java版

conf.registerKryoClasses(new Class[]{Class1.class,Class2.class});

另外，如果你要序列化的对象比较大的话，可能还需要增加spark.kryoserializer.buffer参数值。

如果没有注册自定义类，Kryo也可以使用，但是在序列化时候必须将完整的类名保存在每个对象中，这是一个比较大的开销。

序列化也同样可以应用在缓存数据时候（persist级别），比如MEMORY_ONLY_SER 但是如果内存足够，也可以不使用序列化存储，因为序列化虽然在内存占用上减少了，但是在访问该数据时候，需要进行反序列化。

 Memory Tuning

谈内存优化之前先了解一下java对象在内存中占用的情况以及spark的内存管理模型

1.java对象占用内存大小

在保存java对象到内存中时候，一般会比对象中原始的字段多占用3-5倍的空间，原因如下：

• 1.每个不同的对象都会有一个大约16字节的object header，这个大小有可能会比该对象保存的数据都要大。
• 2.Java String字符串在原始数据的基础上额外有将近40个字节的开销（String底层是以char类型的数组存储，并且会保存额外的数据，比如其长度）由于字符串内部使用UTF-16编码，所以将每个字符存储为两个字节。因此，一个10个字符的字符串可以轻松地消耗60个字节。
• 3.公共集合类，如HashMap和LinkedList，使用链表数据结构，其中每个entry都有一个“包装”对象(例如Map.Entry)。这个对象不仅有一个object header，而且还有指向列表中下一个对象的指针(每个指针一般占8个字节)。
• 4.原始类型的集合通常将元素以装箱的形式存储，比如java.lang.Integer。

2.Spark内存管理模型

以下内容是基于spark2.3版本

默认情况下，spark只使用堆内内存，如下：

executor 端的堆内内存大致可以分为以下四大块：

systemMemry也就是通过--executor-memory 配置的，Reserverd Memory是写死的300M（可以参考官网对该处的描述），usable Memory等于systemMemry减去Reserverd Memory。

 usable Memory乘于spark.memory.fraction比例才等于execution和storage可用的内存，该版本比例为0.6。

举个例子：

启动一个任务，executor内存分配为8G

[etluser@master01 kong]$ spark2-shell --master yarn --executor-memory 8g --num-executors 2

在spark web ui界面查看executor内存：

在stroage memory那一项4.4G，这个值指的是execution和storage内存之和。根据上面描述计算如下：

Memory = （8 *1024-300）*0.6 = 4735M = 4.62G，为什么比界面显示的4.4G大？？

虽然我们设置的--executor-memory为 8g，但是 Spark 的 Executor 端通过 Runtime.getRuntime.maxMemory 拿到的内存其实没这么大，其值会比实际配置的executor内存的值小。
这是因为内存分配池的堆部分分为 Eden，Survivor 和 Tenured 三部分空间，而这里面一共包含了两个 Survivor 区域，而这两个 Survivor 区域在任何时候我们只能用到其中一个，
所以我们可以使用下面的公式进行描述：
ExecutorMemory = Eden + 2 * Survivor + Tenured
Runtime.getRuntime.maxMemory = Eden + Survivor + Tenured

另外execution和storage之间的内存是可以互相动态调整的，（在spark1.5之前，两者的内存大小占比是定值），如下图：

对于java对象占用内存的情况，spark关于优化数据结构的建议：

对于大的RDD，可以考虑使用序列化的方式存储：

• 以序列化形式存储数据，可以减少空间占用。
• 以序列化形式存储数据，会将每个RDD分区保存成一份大的字节数组。
• 以序列化形式存储数据，唯一的缺点是访问速度较慢，需要反序列化。
• 推荐使用上述kryo序列化方式
• 存储级别方式，比如MEMORY_ONLY_SER，详细可以参考官网RDD Persistence

GC优化：

• 推荐使用G1 GC，具体的可以参考前面的G1 GC文章

任务并行度：

• 并行度过低，集群资源利用率低，应用性能低；并行度过高，增加任务调度开销，性能不一定会相对提升反而可能会下降。
• 对于map端的并行度，spark会根据数据量的大小自动计算map的数量（通过一个简单的公式），而对于reduce的操作，比如groupByKey, reduceByKey等，它使用其父RDD的最大分区数（对这里的进一步优化可以参考spark自适应执行文章）
• 调整并行度可以在一些算子中传入并行度的参数，或者通过spark.default.parallelism指定（sparksql也有其对应的参数值spark.sql.shuffle.partitions）
• 一般情况下，建议并行度设置为executor配置的cpu总数量的2-3倍

广播变量：

• 对于read-only数据可以考虑广播，广播的好处在于：不执行广播每个task拥有一个变量，广播之后每个executor共享一个变量。减少了网络传输以及内存占用。
• 创建广播变量代码：

Broadcast<int[]> broadcastVar = sc.broadcast(new int[] {1, 2, 3});

broadcastVar.value();
// returns [1, 2, 3]

• spark会在日志中打印出每个task序列化之后的大小，一般情况下，如果task大小超过20KB便可以考虑是否可以使用广播方式优化。
• 对于spark sql的自动广播小表，需要在知道小表的元数据前提下且该小表在生成元数据时候执行了ANALYZE命令。此外部分transform得到的小表不一定可以广播，可以将小表落地或者使用sql brocast hint

数据本地性：

数据本地性对spark任务的性能有很大的影响的，如果数据和代码(task)在一块计算基本上是最快的。如果数据和代码(task)不在一块，那么必须有一项需要移动的，并且往往移动的是代码(task)，因为大部分情况下它是相对较小的，移动它相对更快开销更小，

数据本地性分为几个级别：

PROCESS_LOCAL data is in the same JVM as the running code. This is the best locality possible
NODE_LOCAL data is on the same node. Examples might be in HDFS on the same node, or in another executor on the same node. This is a little slower than PROCESS_LOCAL because the data has to travel between processes
NO_PREF data is accessed equally quickly from anywhere and has no locality preference
RACK_LOCAL data is on the same rack of servers. Data is on a different server on the same rack so needs to be sent over the network, typically through a single switch
ANY data is elsewhere on the network and not in the same rack

PROCESS_LOCAL是最好的级别，也就是数据和代码是在同一JVM，但是并不是所有的task都可以达到这个级别。对于怎么对每个task都达到一个最理想的级别，spark有两种策略：

1.等，等到可以达到理想的数据本地性级别的cpu闲下来，然后自己顶上去。等待时间有个默认值。（这里也有一定的坑，比如数据不大或者执行逻辑简单，在刚达到或者还未达到该时间的时候，task就已执行完毕，这种情况下就会发现task扎堆执行，给人一种数据倾斜的错觉）

2.不管一切就是起任务，立即在非理想级别状态下执行。

Tunning spark

标签：保存   瓶颈   cto   优点   equal   another   序列   替代   reserve   

原文地址：https://www.cnblogs.com/dtmobile-ksw/p/12034986.html