一、摘要1.OGG是数据同步软件,或者说是逻辑复制软件,其竞争对手有IBM CDC,DELL shareplex,DSG,DDS等等。2.OGG软件是需要安装在操作系统上的,Oracle DB软件没有自带OGG软件(至少目前是这样的)3.OGG软件有三大进程(说四大进程也行):三大进程:源头抽取进程、源头传输进程、目的端应用进程(即:复制进程)四大进程:源头抽取进程、源头传输进程、目的端serve
转载 2024-05-02 22:49:20
45阅读
概念:OGG属于逻辑复制,实现原理是通过抽取源端的redolog 或者 archive log ,然后通过TCP/IP投递目标端,最后解析还原应用到目标端,使目标端实现同源端数据同步。    1.Manager进程(管理进程)     Manager是OGG的控制进程,它运行在源端和目标端,它主要有以下几个方面的 作用:启动、
转载 2024-06-26 15:30:15
99阅读
OGG软件是一种基于日志的结构化数据复制软件,它通过解析源数据库在线日志或归档日志获得数据的增量变化,再将这些变化应用到目标数据库,从而实现源数据库与目标数据库同步OGG可以在异构的IT基础结构(包括几乎所有常用操作系统平台和数据库平台)之间实现大量数据亚秒一级的实时复制,从而在可以在应急系统、在线报表、实时数据仓库供应、交易跟踪、数据同步、集中/分发、容灾等多个场景下应用。OGG的数据集成技术
OGG同步oracle12c数据KAFKA
原创 2018-03-19 11:09:59
10000+阅读
2点赞
1评论
一、背景介绍随着数据规模的不断扩大,传统的RDBMS难以满足OLAP的需求,本文将介绍如何将Oracle的数据实时同步阿里云的大数据处理平台当中,并利用大数据工具对数据进行分析。OGG(Oracle GoldenGate)是一个基于日志的结构化数据备份工具,一般用于Oracle数据库之间的主从备份以及Oracle数据库其他数据库(DB2, MySQL等)的同步。下面是Oracle官方提供的一个
环境:服务器一(RAC实例一的任意一个节点)IP地址:              10.19.100.91Oracle数据库版本     11.2.0.4Oracle数据库实例名   aegisdbOracle数据库端口   &n
之前我已经安装好了目标端的Oracle GoldenGate for Big Data。可以看这篇博客:Oracle Golden Gate(OGG)学习——目标端安装Big DataLinux系统中先进入OGG安装的目录,使用 ggsci 打开控制程序:1、配置mgr进程GGSCI > edit params mgr目标端mgr进程配置信息:PORT 7809 DYNAMICPORTLI
博文结构图如下:    一、环境描述以及注意事项 1.1 环境简介  IP系统Oracle版本OGG版本源端172.16.10.16/36RHEL6.5oracle1120412.1目标端172.16.10.154RHEL6.5oracle1120412.1同步用户为:hr。  1.2 OGG网络带宽规划 GoldenGate数据同步
   OGG 从Oracle备库同步数据至kafkaTable of Contents1. 目的2. 环境及规划3. 安装配置JDK3.1. 安装jdk3.2. 配置环境变量4. 安装Dataguard4.1. 安装备库软件4.2. 配置dataguard4.2.1. 主库4.2.2. 备库4.3. 完成操作4.4. 启动实时复制5. zookeeper集群5.1.
转载 8月前
82阅读
详细阐述了使用OGG传统模式将Oracle数据全量同步kafka
原创 精选 2023-12-06 09:49:24
350阅读
系统环境在阿里云ECS自建mysql5.6.46+ogg19.1同步架构问题描述使用ogg遇到几下两类问题一、安装问题 1、ogg19.1正常情况下解压到某个目录,进行create subdirs即可,但是更改安装目录或删除原目录并重新安装到其他目录,执行 ./ggsci报错二、使用问题 使用ogg抽取、投递、复制遇到以下几个问题 1、通过ogg无法从mysql中抽取变化的数据(insert,up
转载 2024-01-25 21:58:03
112阅读
ORACLE OGG同步KAFKA一、介绍 Kafka是一种高效的消息队列实现,通过订阅kafka的消息队列,下游系统可以实时获取在线Oracle系统的数据变更情况,实现业务系统ogg同步全量数据方式: ①通过数据泵方式基于SCN导出并导入目标端,此方式用于Oracle Oracle的ogg同步环境中。 ②通过ogg本身的初始化方式,初始化全量数据目标端,此方式通用于所有环境,但是速度相对
转载 2024-04-01 10:52:11
129阅读
MySQL同步ogg的流程如下: | 步骤 | 操作 | | ------ | ------ | | 步骤一 | 配置MySQL主库 | | 步骤二 | 安装ogg软件 | | 步骤三 | 配置ogg参数 | | 步骤四 | 创建ggsci脚本 | | 步骤五 | 启动ogg进程 | | 步骤六 | 配置MySQL从库 | | 步骤七 | 验证同步情况 | 下面是每个步骤需要做的具体操作和代
原创 2023-12-08 04:06:26
141阅读
接前序,本次场景中有索引,但是OGG复制进程使用了低效率的索引?  类似SQL使用低效索引,如何让Oracle使用好的索引,从而加快复制进程的效率呢?疑问? Oracle为什么有好的索引,但是还是选择不好的索引,从而造成SQL效率低下,OGG复制进程缓慢呢?本次DB版本11g,都是CBO,基于成本进行计算。1.重新收集统计信息,让Oracle自动选择好的索引,走好的执行计划,从而让OGG
一、环境要求MySQL 企业版或者社区版OGG for MySQL 12.2.0.2OGG Application Adapter 12.2.0.1java 7(推荐JDK 1.8)二、安装步骤:(下面将介绍MySQL/OGG相关安装和配置过程,MySQL的安装将不做介绍,另外需要注意的是:MySQL/OGG相关参数配置以熟悉MySQL/OGG的运维人员配置为准,本示例只是提供一个可运行的样本)安
转载 10月前
47阅读
oracle DDL 同步: -> 不支持及有限支持 。 oracle 数据库保留的schemas, goldengate是不支持复制的。 -> goldengate 不支持超过2M 长度的DDL语句。 ->goldengate 只支持单项的DDL 复制,不支持双向DDL复制。
转载 10月前
29阅读
概述前面两部分已经分享了怎么去安装ogg和配置源端数据库和进程组,接下来主要讲怎么去配置目的端数据库和进程组的一些参数。一、配置目标数据库【含源端业务新增数据模拟】1、数据库初始化(可忽略,看大家需要)----源端 imp sender/oracle file=/opt/nwpp.dmp log=/opt/nwpp.log fromuser=NWPP touser=sender ignore=y
1.--源端 --停源端所有进程 stop * stop mgr 2.--目标端进程 info REP_K4 showch 看RBA是否变化,
原创 2022-07-13 16:32:16
411阅读
远程同步kafka       请衔接上文查看   这个就是直接远程同步数据库,128 已经是使用中的kafka,我们直接通过ogg远程同步,这种情况 128库不需要安装任何ogg相关   01、配置远程同步配置文件replicat 01)、编辑进程配置文件 GSCI (RHEL44223) 9> edit param rekafka2 REPLICAT rekafka2 source
原创 2022-01-11 10:28:49
574阅读
# OGG 同步数据 MySQL ## 简介 Oracle GoldenGate(OGG)是一种实时数据复制和数据集成解决方案,可以将数据从一个数据库复制另一个数据库。本文将介绍如何使用 OGG 将数据从 Oracle 数据库同步 MySQL 数据库。我们将使用 OGG 的抽取(Extract)和传输(Replicat)进程来实现这一目标。 ## 准备工作 在开始之前,需要确保以下几
原创 2023-07-30 15:30:04
279阅读
  • 1
  • 2
  • 3
  • 4
  • 5