说明这四个方法都和缓存有关,所以写在一块。JavaPairRDD的cache方法讲解官方文档说明Persist this RDD with the default storage level (MEMORY_ONLY).中文含义cache就是在内存中缓存数据,其实也是使用的persist。使用非序列化的方式将RDD的数据全部尝试持久化到内存中,cache()只是一个transformtion,是l
转载 2023-12-03 07:01:10
57阅读
目录:1.概述 2.缓存类型 3.如何选择缓存类型 4.移除缓存数据1.概述Spark的开发调优有一个原则,即对多次使用的RDD进行持久化。如果要对一个RDD进行持久化,只要对这个RDD调用cache()和persist()即可。1.1 cache()方法表示:使用非序列化的方式将RDD的数据全部尝试持久化到内存中,cache()只是一个transformtion,是lazy的,必须通过一个
转载 2024-02-24 11:48:23
62阅读