在这个金灿灿的收获季节,经过 Apache DolphinScheduler PPMC 们的推荐和投票,Apache DolphinScheduler 收获了 5 位新Committer 。他们是:nauu(朱凯)、Rubik-W(温合民)、gabrywu、liwenhe1993、clay4444。对于成为&
探秘Dolphin:一个创新的技术平台,赋能开发者的新旅程项目简介是一个由StarCrossPortal团队开发的开源项目,致力于提供一套强大且灵活的分布式应用开发框架。它旨在简化复杂的应用程序部署和管理,帮助开发者更高效地构建、运行和维护微服务架构。技术分析模块化设计 - Dolphin 采用了模块化的结构,允许开发者根据需要选择不同的组件,如配置中心、注册中心、熔断器等,极大地提升了代码的可复
转载 9月前
27阅读
继昨日发布第一个官方 Docker 镜像后,有几位小伙伴私信想自己进行编译,DolphinSch
原创 2022-01-05 14:17:34
145阅读
centos7环境下:DolphinScheduler3.1.5简介和伪集群模式安装部署DolphinScheduler简介Apache DolphinScheduler是一个分布式、易扩展的可视化DAG工作流任务调度平台。致力于解决数据处理流程中错综复杂的依赖关系,使调度系统在数据处理流程中开箱即用。 伪集群部署目的是在单台机器部署 DolphinScheduler 服务,该模式下master、
 本文汇集了一些 Windows Phone 7 游戏开发相关的教程、源代码和书籍,以帮助开发者在 Windows Phone 7 平台上创建自己的游戏。一、教程  1. Windows Phone 7 快速入门:在 Windows Phone 7 平台创建游戏  本教程使用 Silverlight 作为游戏开发平台,讲解如何获取绘制/更新行为到你的 Silverlight 游戏中,并提供了一个完
Python的Asyncio模块提供了管理事件、协程、任务和线程的方法,以及编写并发代码的原语。此模块的主要组件和概念包括:事件循环: 在Asyncio模块中,每一个进程都有一个事件循环。协程: 这是子程序的泛化概念。协程可以在执行期间暂停,这样就可以等待外部的处理(例如IO)完成之后,从之前暂停的地方恢复执行。Futures: 定义了 Future 对象,和 con
本周伊始,Apache DolphinScheduler 项目在 GitHub 上的 Github Star 总数首次突破 8K。目前,Apache DolphinScheduler 社区已经拥有 Contributor 345+,fork 数 3k+,社区发展呈现出一片欣欣向荣。既 Apache DolphinScheduler 项目荣登 GitHub Java Trending 周月度榜单之后
转载 2024-06-13 13:27:46
34阅读
目录一 dolphinsheduler调研支持的任务类型:1.1 dolphinsheduler集群部署1.1.1 需要的环境1.1.2 dolphinsheduler安装可能的报错:zk正常,master或worker一段时间后挂掉问题原因解决办法1.1.3 资源中心配置1.2 参数1.2.1 任务中可能出现的所有参数1.2.2 内置参数1.2.3 全局参数1.2.4 本地参数可能出现的问题:参
转载 2月前
581阅读
第三课----------学习自己获取docker镜像(重点写一些基本的镜像) 文章目录第三课----------学习自己获取docker镜像(重点写一些基本的镜像)第一种:第二种:第三种:一般,Dockerfile 分为四部分:在Dockerfile中用到的命令有尝试使用Dockerfile生成镜像 介绍:方法一共分为三种第 第一种就是最常用的一种到官方镜像站拉取 第二种自己已经将镜像备份
转载 2023-07-10 11:48:50
135阅读
工具使用取证工具:winhex,FTK Imager,VMware-converter挂载工具:Arsenal-Image-Mounter-v3.1.107简介在windows平台中一般使用VMware-converter来进行取证,因为这种方式是在系统跑起来之后进行取镜像,而且取出来直接是vmware可以识别的格式,直接可以在分析时仿真起来,但是有时候由于任务限制,取证不允许在对方主机上安装任何
# 如何获取 Kubernetes 镜像 Kubernetes 是一个广泛使用的容器编排平台,它能够自动化管理、部署和扩展容器化应用。在使用 Kubernetes 时,获取和管理镜像是非常重要的一步,因为应用容器需要基于镜像来运行。本文将详细介绍如何获取 Kubernetes 镜像,包括从 Docker Hub 获取、从私有仓库获取、构建自定义镜像及管理镜像的最佳实践。 ## 1. 背景知识
原创 2024-10-30 04:05:10
80阅读
可以使用 docker pull 命令来从仓库获取所需要的镜像。 下面的例子将从 Docker Hub 仓库下载一个 Ubuntu 12.04 操作系统的镜像。 $ sudo docker pull ubuntu:12.04 Pulling repository ubuntu ab8e2728644
原创 2018-02-20 13:02:00
316阅读
(1)创建数据库(2)创建用户*注:*若出现以下错误信息,表明新建用户的密码过于简单。ERROR 1819 (HY000): Your password does not satisfy the current policy requirements可提高密码复杂度或者执行以下命令降低 MySQL 密码强度级别。(3)赋予用户相应权限mysql> GRANT ALL PRI
转载 8月前
32阅读
在这里我补充说明升级Apache DolphinScheduler的几个关键点①做好已有元数据做备份(以 MySQL为例,元数据存储在Mysql的dolphinscheduler数据库里)伪代码mysqldump -u root -p dolphinscheduler > dolphinscheduler_backup_XXX.sql②apache-dolphinscheduler-3.1.
转载 2024-08-17 16:20:22
30阅读
文章目录工作流定义运行工作流查看工作流实例查看任务实例定时工作流 下图为工作流配置页面,共包含三个模快,分别为工作流定义、工作流实例和任务实例。工作流定义:用于定义工作流,包括工作流各节点任务详情及各节点依赖关等。 工作流实例:工作流每执行一次就会生成一个工作流实例。此处可查看正在运行的工作流以及已经完成的工作流。 任务实例:工作流中的一个节点任务,每执行一次就会生成一个任务实例。此处可用于查看
转载 2023-08-20 13:10:19
150阅读
DolphinScheduler知识点总结 DolphinScheduler简介Apache DolphinScheduler是一个分布式、易扩展的可视化DAG工作流任务调度平台。致力于解决数据处理流程中错综复杂的依赖关系,使调度系统在数据处理流程中开箱即用。DolphinScheduler核心架构DolphinScheduler的主要角色如下:Mast
转载 2023-07-28 14:04:18
345阅读
目录kill执行分析思考1思考2PR福利kill执行分析将上图简化如下:Api: processInstance被master接管执行后,会在processInstance里记录该master host值,api就是通过host值找到master,直接发起READY_STOP请求的。没有通过command解耦。StateEventProcessor:该Processor主要是对接Api以及其他ma
转载 2023-11-02 15:58:33
106阅读
今天继续分析海豚调度的源码上回分析的是dolphinscheduler-service模块zookeeper相关的代码这回分析是dolphinscheduler-server模块zookeeper相关的代码ZkMasterClient master服务zk客户端类类继承的关系如下: 这个类的方法如下: 方法介绍:start()  根据路径dolphins
转载 2023-09-29 19:39:15
327阅读
镜像获取与容器的使用镜像可以看作是包含有某些软件的容器系统,比如centos就是一个官方的基础镜像,很多镜像都是基于这个镜像“衍生”,该镜像包含基本的centos系统 (1)搜索可用的centos的docker镜像  docker search <image>:在docker index中搜索image  docker search cent
数据质量工作流程数据质量运行流程分为2个部分:在web端进行数据质量检测的流程定义,通过dolphinscheduer进行调度,提交到spark计算引擎;spark端负责解析数据质量模型的参数,通过读取数据、执行转换、输出三个步骤,完成数据质量检测任务,工作流程如下图所示。在web端进行定义数据质量定义如下图所示,这里只定义了一个节点。以一个空值检测的输入参数为例,这个json文件会以字符串形式提
转载 2024-02-16 11:43:02
222阅读
  • 1
  • 2
  • 3
  • 4
  • 5