spark sql 非业务调优
浪尖 浪尖聊大数据
1，jvm调优
这个是扯不断，理还乱。建议能加内存就加内存，没事调啥JVM，你都不了解JVM和你的任务数据。默认的参数已经很好了，对于GC算法，spark sql可以尝试一些 G1。
下面文章建议多读几遍，记住最好。
必背|spark 内存，GC及数据结构调优
2，内存调优
缓存表
spark2.+采用：
spark.catalog.cacheTable("tableName")缓存表，
spark.catalog.uncacheTable("tableName")解除缓存。
spark 1.+采用：
sqlContext.cacheTable("tableName")缓存，
sqlContext.uncacheTable("tableName") 解除缓存。
Sparksql仅仅会缓存必要的列，并且自动调整压缩算法来减少内存和GC压力。
3，广播
大小表进行join时，广播小表到所有的Worker节点，来提升性能是一个不错的选择。Spark提供了两个参数可以调整，不同版本会有些许不一样，本文以Spark2.2.1为例讲解。
广播的变量的使用其实，有时候没啥用处。在任务超多，夸stage使用数据的时候才能凸显其真正作用。任务一趟跑完了，其实广播不广播无所谓了。。。
4，分区数据的调控
分区设置spark.sql.shuffle.partitions，默认是200.
对于有些公司来说，估计在用的时候会有Spark sql处理的数据比较少，然后资源也比较少，这时候这个shuffle分区数200就太大了，应该适当调小，来提升性能。
也有一些公司，估计在处理离线数据，数据量特别大，而且资源足，这时候shuffle分区数200，明显不够了，要适当调大。
适当，就完全靠经验。
5，文件与分区
这个总共有两个参数可以调整：
一个是在读取文件的时候一个分区接受多少数据；
另一个是文件打开的开销，通俗理解就是小文件合并的阈值。
文件打开是有开销的，开销的衡量，Spark 采用了一个比较好的方式就是打开文件的开销用，相同时间能扫描的数据的字节数来衡量。
spark.sql.files.maxPartitionBytes该值的调整要结合你想要的并发度及内存的大小来进行。
spark.sql.files.openCostInBytes说直白一些这个参数就是合并小文件的阈值，小于这个阈值的文件将会合并。
6，文件格式
建议parquet或者orc。Parquet已经可以达到很大的性能了。性能指标，网上一堆，在这里浪尖就不啰嗦了。
7，sql调优
听天由命吧。主要要熟悉业务，熟悉数据，熟悉sql解析的过程。
关于调优多说一句：
对于Spark任务的调优，要深入了解的就是数据在整个spark计算链条中，在每个分区的分布情况。有了这点的了解，我们就会知道数据是否倾斜，在哪倾斜，然后在针对倾斜进行调优。 分区数该增大增大，该减少减少。 内存要尽可能大。 表别动不动就缓存，有时候重新加载比缓存速度都快。 该广播广播，不该广播的时候就别广播，就一个批次执行完的任务你广播毛线。 。。。。。
多测几次，得出自己的经验。
Spark算子在使用的时候注意事项，容浪尖后续整理。 图片
