目录前言Spark WordCountSparkConfSparkContextRDDRDD操作(算子)Spark Web UIApplicationJobStageTaskShuffleDAG与RDD依赖Executor与DriverSpark集群Cluster ManagerWorker总结前言思来想去,还是决定从头开始写起,从最基础的东西入手,研读Spark Core的源码。相对于之前东一榔
转载 6月前
8阅读
# Spark Hook ## Introduction In the world of Big Data processing, Apache Spark has emerged as a popular framework due to its ability to handle large-scale data processing and analytics tasks efficie
原创 2023-11-08 04:49:04
55阅读
文章目录ShutdownHook导致Spark Driver OOM问题发现和定位解决办法FileSourceScanExec 进行Parquet文件Split策略有问题问题描述:Debug日志相关排查日志动态插入分区表任务执行失败失败错误分析 ShutdownHook导致Spark Driver OOM问题发现和定位线上有个Spark程序在跑一天批次数据的时候没有问题,但是运行多天的跑批时内存
转载 2024-06-22 10:23:00
135阅读
Kubernetes中的hook插件是一种非常有用的功能,可以在容器生命周期的不同阶段插入自定义的逻辑处理。在本篇文章中,我将向新手开发者介绍如何实现hook插件的功能,并为他们提供一些示例代码。 ### 实现Hook插件的流程 下面是实现Hook插件的基本步骤: | 步骤 | 描述 | |------------|----------
原创 2024-05-15 11:42:57
161阅读
简介什么是 HookHook 又叫“钩子”,它可以在事件传送的过程中截获并监控事件的传输,将自身的代码与系统方法进行融入。这样当这些方法被调用时,也就可以执行我们自己的代码,这也是面向切面编程的思想(AOP)。Hook 分类1.根据Android开发模式,Native模式(C/C++)和Java模式(Java)区分,在Android平台上Java层级的Hook;Native层级的Hook;2.根
转载 2023-11-04 19:43:26
148阅读
一、Hook 实现思路、二、Hook 按钮点击事件、1、按钮点击事件、2、熟悉底层源码、3、获取 View 的 ListenerInfo mListenerInfo 成员、4、分析 Hook 点、5、反射 ListenerInfo 并设置新的 OnClickListener 器、三、完整代码示例、四、博客资源、
原创 2022-03-08 10:44:31
908阅读
Android 插件化系列文章目录、前言、一、Hook 点分析、
原创 2022-03-08 10:18:16
140阅读
Android 插件化系列文章目录、前言、一、hook 插件化原理、二、插件化依赖库创建、三、插件包管理、四、插件包管理完整代码示例、五、博客资源、
原创 2022-03-08 10:21:19
1103阅读
internal_load_librarypostgresql->PG_init=(PG_init_t)pg_dlsym(file_scanner->handle,"_PG_init");if(PG_init)(*PG_init)();internal_unload_library(constchar*libname)->PG_fini=(PG_fini_t)pg_dlsym(f
原创 2018-10-31 19:38:54
2169阅读
前言:前一段时间新开源了一种全面插件化的方案-- RePlugin,之前一直都在关注 DroidPlugin 并且很早也在项目中试用了,但最终没有投入到真正的生产环节,一方面是项目中没有特别需要插件化的需求,另一方面也考虑到 DroidPlugin 不是特别稳定,Android系统每更新一次 DroidPlugin 可能就会出现一些 Bug,毕竟 Hook 了 Android 原生的太多东西,系统
# 使用 Frida Hook 进行 iOS 插件开发 ## 什么是 Frida? Frida 是一个快速、强大的动态插桩工具,允许你在运行时修改应用程序。它广泛用于安全研究、逆向工程和功能增强。Frida 的主要组成部分是它的 JavaScript API,你可以利用这些 API 直接与应用程序的内存进行交互。 ## Frida Hook iOS 插件的应用场景 使用 Frida Hoo
原创 2024-10-12 05:27:27
56阅读
Android 插件化系列文章目录、前言、一、项目结构及运行方法、1、项目结构、2、项目运行、二、宿主应用、1、拷贝工具类、2
原创 2022-03-08 10:13:02
440阅读
1评论
1.安装火狐插件①旧版本firefox火狐浏览器右上角-->附件-->获取更多附件-->搜索-->Firebug安装 Firebug 扩展:https://addons.mozilla.org/zh-CN/firefox/addon/firebug/ ,添加到firebug之后,重启火狐,之后会在右上角看大一个七星瓢虫类似的说明安装成功。同理安装firebug一样
转载 2023-10-25 11:37:21
159阅读
一、Spark1.1 Spark有几种部署方式?请分别简要论述1)Local:运行在一台机器上,通常是练手或者测试环境。2)Standalone:构建一个基于Mster+Slaves的资源调度集群,Spark任务提交给Master运行。是Spark自身的一个调度系统。3)Yarn: Spark客户端直接连接Yarn,不需要额外构建Spark集群。有yarn-client和yarn-cluster两
这次继续带来一款微信模块+两个插件+三个小妖精插件(小妖精插件下载小妖精插件从作者专栏找到我就能找到且使用十分方便)写在前面 好家伙,上次居然没人中奖,那这次放低点标准吧,抽两个人请喝杯热(奶)水(茶)吧,评论点赞×2即可参与,每人5.88红包01微信模块预览TITTLES 模块介绍底包来源:vb@然然吃小孩师傅:然然和俞哥适用机型:华为&荣耀微信版本:7.017~7.018(不晓
# Android进程注入Hook插件 ![android进程注入hook插件]( ## 引言 随着移动应用的快速发展,Android操作系统成为了全球最大的移动操作系统之一。开发者们为了满足用户需求,不断致力于提供更好的用户体验和功能。在这个过程中,应用程序的性能优化和安全性变得越来越重要。 Android进程注入和Hook插件是一种用于改善应用程序性能和安全性的技术手段。本文将向大家介
原创 2023-11-24 09:56:37
348阅读
一、分析 Activity 启动源码、1、源码分析、2、涉及到的 Activity 相关代码、二、Hook Activity 启动过程、1、分析相关 类 / 成员 / 方法 结构、2、反射获取 Activity 中的 Instrumentation mInstrumentation 成员字段、3、获取成员字段值、4、设置成员字段值、5、代理类开发、三、完整代码示例、1、主界面代码示例、2、代理类代码示例、3、跳转的界面、4、执行结果、四、博客资源、
原创 2022-03-08 10:46:58
202阅读
一、使用 Hook 方式替换插件 Activity 资源、1、通过反射获取 ActivityThread 及 实例对象、2、通过反射获取 Instrumentation 实例对象、二、Instrumentation 代理类、1、持有被代理实例对象、2、代理执行 execStartActivity 方法、3、截获 Activity 实例对象、三、替换 Activity 中的 mResources 成员、四、完整代码示例、五、为不同的插件包设置不同的资源、
原创 2022-03-08 10:13:38
682阅读
# Spark 原理简述 Spark 是使用 scala 实现的基于内存计算的大数据开源集群计算环境.提供了 java,scala, python,R 等语言的调用接口. 1 引言 1.1 Hadoop 和 Spark 的关系   Google 在 2003 年和 2004 年先后发表了 Google 文件系统 GFS 和 MapReduce 编程模型两篇文章
  Java程序经常也会遇到进程挂掉的情况,一些状态没有正确的保存下来,这时候就需要在JVM关掉的时候执行一些清理现场的代码。  JAVA中的ShutdownHook提供了比较好的方案。  JDK提供了Java.Runtime.addShutdownHook(Thread hook)方法,可以注册一个JVM关闭的钩子,这个钩子可以在一下几种场景中被调用:1. 程序正常退出 2. 使用System.
转载 2023-09-22 10:51:44
736阅读
  • 1
  • 2
  • 3
  • 4
  • 5