Apache Spark是一个在集群上运行的统一计算引擎以及一组并行数据处理软件库 Spark专注于计算引擎，从存储系统加载数据并对其执行计算，加载结束时不负责永久存储，可以将许多种类型的存储系统与Spark结合使用。 Hadoop包括一个存储系统（HDFS）和计算系统（MapReduce），它们紧密集成在一起，无法运行独立于HDFS的MapReduce系统。Spark可以在Hadoop存储上运行
转载
2024-07-13 07:22:51
32阅读
# PySpark读取SQL
PySpark是Apache Spark的Python API，它提供了一种使用Python编写大数据处理应用程序的方式。在PySpark中，我们可以使用SQL查询语言来处理和分析大规模数据集。
## 什么是PySpark读取SQL
PySpark读取SQL是指使用PySpark中的SQL模块来读取和操作SQL数据。它提供了一种使用SQL查询语言来处理和分析大规
原创
2024-01-30 10:24:18
138阅读
# PySpark参数详解与示例
## 引言
Apache Spark 是一个强大的分布式数据处理引擎，而 PySpark 则是 Spark 的 Python API。它使得大数据处理变得更加简单和方便。理解 PySpark 中的参数设置对于优化应用性能至关重要。本文将带你深入了解 PySpark 参数，并提供示例代码以便你能快速上手。
## PySpark参数的基础知识
在 PySpar
通常需要处理的数值都是稀疏而又散乱地分布在空间中，然而，我们并不需要存储这些大数值，这时可以用独热编码。例如：我们需要处理4维向量空间，当给一个特征向量的第n个特征进行编码时，编码器会遍历每个特征向量的第n个特征，然后进行非重复计数。若第n个特征的最大值为K，则就把这个特征转换为只有一个值为1而其他值都是0的K+1维向量。encoder=OneHotEncoder(sparse=False)&nb
转载
2023-12-13 00:36:35
124阅读
准备：windows环境说明：Python2.7 + pipspark版本：spark-1.6.1-bin-hadoop2.6step1: 下载并解压tar包到自定义的路径。（下载链接 https://d3kbcqa49mib13.cloudfront.net/spark-1.6.1-bin-hadoop2.6.tgz）step2:配置 %SPARK_HOME% 环境变量 s
转载
2023-07-02 22:31:00
119阅读
大数据 | Pyspark基本操作Apache Spark是新兴的一种快速通用的大规模数据处理引擎。它的优势有三个方面：通用计算引擎 能够运行MapReduce、数据挖掘、图运算、流式计算、SQL等多种框架；基于内存 数据可缓存在内存中，特别适用于需要迭代多次运算的场景； 与Hadoop集成 能够直接读写HDFS中的数据，并能运行在YARN之上。Spark是用Scala语言编写的，所提供的API也
转载
2023-08-04 19:29:11
108阅读
Executor配置 conf={ "spark.executor.memory": "4g", "spark.executor.cores":"4", "spark.executor.instances": "150", "spark.yarn.executor.memoryOverhead": ...
转载
2021-09-15 20:30:00
1103阅读
2评论
文章目录SparkBase&Core环境搭建-Spark on YARN扩展阅读-Spark关键概念[了解]PySpark角色分析[了解]PySpark架构后记 SparkBase&Core学习目标掌握SparkOnYarn搭建掌握RDD的基础创建及相关算子操作了解PySpark的架构及角色环境搭建-Spark on YARNYarn 资源调度框架，提供如何基于RM，NM，Con
# 学习 PySpark 参数配置的入门指南
PySpark 是一个强大的分布式计算框架，广泛应用于数据处理和分析。对于刚入行的开发者来说，学习如何配置 PySpark 参数至关重要。本文将详细介绍 PySpark 参数配置的流程和步骤，并通过代码示例加以说明。
## PySpark 参数配置流程
以下是 PySpark 参数配置的典型流程：
| 步骤 | 描述 |
|------|---
原创
2024-08-03 07:50:26
66阅读
## pyspark指定参数
在使用pyspark进行分布式数据处理时，我们可以通过指定参数来优化执行效果和资源利用。本文将介绍一些常用的pyspark参数，并提供相应的代码示例。
### 1. 指定driver内存
在pyspark中，可以通过`--driver-memory`参数指定driver程序使用的内存大小。默认情况下，driver程序的内存大小为1g。如果处理的数据量较大，可以适
原创
2023-10-21 03:03:08
271阅读
一 部署本地spark环境
1.1 安装好JDK 下载并安装好jdk1.7，配置完环境变量。 1.2Spark环境变量配置
去http://spark.apache.org/downloads.html网站下载相应hadoop对应的版本，我下载的是
1. PageRank的两种串行迭代求解算法我们在博客《数值分析：幂迭代和PageRank算法(Numpy实现)》算法中提到过用幂法求解PageRank。 给定有向图我们可以写出其马尔科夫概率转移矩阵\(M\)(第\(i\)列对应对\(i\)节点的邻居并沿列归一化)\[\left(\begin{array}{lll} 0 & 0 & 1 \\ \frac{1}{2} & 0
# PySpark参数类型
Apache Spark是一个快速、通用且易于使用的大数据处理框架，提供了强大的数据处理和分析功能。PySpark是Spark的Python API，提供了一种使用Python编写Spark应用程序的方式。在PySpark中，我们可以通过设置不同的参数来优化性能、控制任务的执行方式和处理数据的方式。本文将介绍PySpark中一些常见的参数类型，并提供代码示例来说明它们
原创
2023-08-16 09:19:40
187阅读
## PySpark参数配置
PySpark是Python编程语言的Spark API。它提供了一个简单而强大的编程接口，用于分布式数据处理和分析。在使用PySpark时，可以通过参数配置来优化和调整Spark应用程序的性能。本文将介绍PySpark的常见参数配置，并提供代码示例。
### 1. SparkConf
在PySpark中，可以使用SparkConf对象来配置Spark应用程序的
原创
2023-11-10 03:29:33
488阅读
概念梳理GBDT的别称
GBDT(Gradient Boost Decision Tree),梯度提升决策树。 GBDT这个算法还有一些其他的名字，比如说MART(Multiple Additive Regression Tree)，GBRT(Gradient Boost Regression Tree)，Tree Net等，其实它们都是一个东西（参考自wi
转载
2023-07-17 19:25:22
83阅读
# pyspark 启动添加参数
在使用 PySpark 进行大数据处理时，我们经常需要在启动 SparkSession 时添加一些参数。这些参数可以帮助我们优化 Spark 任务的执行，提高处理效率。本文将介绍如何在启动 PySpark 时添加参数，并提供相应的代码示例。
## PySpark 简介
PySpark 是 Apache Spark 的 Python API，它提供了一种方便易
原创
2024-01-06 11:51:14
248阅读
# 基于PySpark实现随机森林参数调优
在今天的文章中，我们将学习如何在PySpark中应用随机森林模型，并调优其参数。随机森林是一种强大的机器学习算法，适用于分类和回归问题。通过参数调优，我们可以显著提高模型的性能。下面，将通过一系列步骤来阐述这一流程。
## 流程概述
我们将按以下步骤进行随机森林模型的创建与参数调优：
| 步骤 | 描述
原创
2024-09-20 04:33:32
119阅读
一、案例：使用读取文件来测试缓存策略的效率package com.chb.java;
import org.apache.spark.SparkConf;
import org.apache.spark.api.java.JavaRDD;
import org.apache.spark.api.java.JavaSparkContext;
import org.apache.spark.repl
转载
2024-09-20 16:25:45
58阅读
Hadoop的初学者经常会疑惑这样两个问题：1.Hadoop的一个Block默认是64M，那么对于一个记录行形式的文本，会不会造成一行记录被分到两个Block当中？2.在把文件从Block中读取出来进行切分时，会不会造成一行记录被分成两个InputSplit，如果被分成两个InputSplit，这样一个InputSplit里面就有一行不完整的数据，那么处理这个InputSplit的Mapper会不
对于数据量大且依赖字段多的特征类模型，如各种画像模型、行为模型，一般都是批量更新的，数据存在大数据库表中，决策引擎不好支持，需要自己进行开发打分。一种简单粗暴的方法是把模型特征从数据表(如hive)拉到磁盘上，然后读到内存来打分，再把结果导入数据表，不过这种单机版操作耗内存且容易出错。在这篇文章，小编就来分享下怎么把建好的模型部署到大数据平台spark上打分。目前主流都是先用python建模，再导
转载
2024-04-11 14:12:27
75阅读
