word count flatMap和flatMapToPair
原创 2022-11-02 15:16:06
133阅读
 spark 操作的几个步骤1  数据关联  textFile 和 parallelize2 转换操作(JavaRDD和JavaPairRDD他们可以通过mapToPair and flatMapToPair转换) 3  action操作,获取数据结果  一、wordcount的例子 //单词统计 pub
本文重点介绍 Spark 中 【mapToPair】和【flatMapToPair】的区别,请继续看到尾部,后续有示例说明,会理解更加清晰。函数原型1.JavaPairRDD<K2,V2> mapToPair(PairFunction<T,K2,V2> f)此函数会对一个RDD中的每个元素调用f函数,其中原来RDD中的每一个元素都是T类型的,调用f函数后会进行一定
转载 2023-11-11 06:15:34
100阅读