今早,同事说遇到的奇怪的GoldenGate延时问题,让帮忙看看。1、现象描述:A库上有2个抽取进程,(抽取进程1)后期投递给B库,(抽取进程2)后期投递给C库,两个进程抽取的内容基本相同。 抽取进程1 出现延时,延迟了1个多小时,而抽取进程2一切正常。 2、处理过程:(1)、一般情况下,抽取进程很少会出现延迟的现象。如果出现延迟,通常是如下几种原因:    &nbs            
                
         
            
            
            
            一般来说OGG Goldengate 抽取进程对CPU的压力非常小, 而对于I/O 、network的吞吐量有轻量级的要求。用低配置AIX测试结果如下。抽取进程支持DB Log生成峰值速度 = 4 * 2.1 = 8.4 MB/秒,或30GB/小时,或726 GB/天。 抽取进程平均CPU占用1.9% 。投递进程支持DB Log生成平均速度 = 2,096,854 * 2.1 = 4.            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-01-08 19:17:39
                            
                                284阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            ============================================1、管理进程 oggCI (ogg1) 22> edit params mgr PORT 7809 DYNAMICPORTLIST 7810-7860 AUTORESTART ER , RETRIES 3, WAITMINUTES 5 PURGEOLDEXTRACTS ./dirdat/pd, USECH            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-12-26 11:00:34
                            
                                212阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            # 从 OGG 抽取 MySQL 数据:一项简单的指南
在大数据时代,数据的管理与抽取变得尤为重要。Oracle GoldenGate(OGG)是一个流行的数据复制和同步工具,能够实时抽取并传输数据。在这篇文章中,我们将探讨如何使用 OGG 从 MySQL 数据库中抽取数据,并提供相应的代码示例和流程图,以帮助理解整个过程。
## 一、什么是 OGG?
Oracle GoldenGate 是            
                
         
            
            
            
                 在GoldenGate的运维过程中,经常会因为某些原因,需要修改源端抽取进程的读取点,比如从指定时间开始解析日志。
操作命令如下:
GGSCI>alter extract ex2, begin 2020-04-22 10:00:00
以上命令即可将抽取进程的读取点改到2020.4.22 10点整,OGG会捕获这个时间之后启动的事务。             
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-04-16 19:46:58
                            
                                187阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            哪些情况OGG抽取进程需要旧的归档日志呢:抽取进程abend或stop了一段时间,再次启动自然需要这段时间内的所有归档日志。比如重启了OS或数据库,但忘了启动ogg;长假期间抽取进程abend了无人知晓。数据库存在迟迟未提交的长事务,时间长了事务的redo信息可能刷到了归档文件中,后面事务提交时抽取进程要扫描这些归档。比如开发人员通过plsqldeveloper修改了表数据,忘了提交;数据库(BI            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-07-04 15:00:58
                            
                                56阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            简介GoldenGate的定位 零宕机时间数据库升级和迁移。满足用户亚秒级实时数据的需求。可持续的数据高可用性和实时商务智能。异构平台及跨操作系统实时数据同步。对源系统和目标系统是非侵入式的。GoldenGate技术架构和传统的逻辑复制一样,Oracle GoldenGate 实现原理是通过抽取源端的redo log 或者 archive log ,然后通过TCP/IP投递到目标端,最后解析还原应            
                
         
            
            
            
            【Goldengate性能优化】优化Extract抽取进程性能,解决OGG抽取日志延迟   一般来说OGG Goldengate 抽取进程对CPU的压力非常小, 而对于I/O 、network的吞吐量有轻量级的要求。 用低配置AIX测试结果如下。 抽取进程支持DB Log生成峰值速度 = 4 * 2.1 = 8.4 MB/秒,或30GB/小时,或726 GB/天。 抽取进程平均CPU占用1.9%            
                
         
            
            
            
            OGG整合模式抽取(downstream模式) 参考文档: https://docs.oracle.com/goldengate/1212/gg-winux/GIORA/ic_deploy.htm#GIORA473 https://docs.oracle.com/goldengate/1212/gg            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2021-04-19 17:59:00
                            
                                854阅读
                            
                                                                                    
                                2评论
                            
                                                 
                 
                
                             
         
            
            
            
            1.主要的子项目1)spring cloud config是配置管理工具,通过它可以把配置信息放到远程服务器中,从而集中管理集群配置。目前支持本地存储、git和subvesion三种存储方式。所有实例都可以通过config server来获取配置文件,每个服务实例相当于配置服务的客户端。2)spring cloud consul封装了consul。consul是HashiCorp公司用GO语言开发            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-09-14 08:40:10
                            
                                39阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            # OGG 抽取 MySQL 增量数据到 Kafka 的实现教程
## 引言
在大数据时代,数据的实时传输与处理变得尤为重要。Oracle GoldenGate(OGG)是一款高效的数据复制工具,可以用于将数据库中的增量数据实时推送到Kafka。本文将为您详细讲解如何实现“OGG抽取MySQL增量数据到Kafka”的过程。通过以下内容,您将能够掌握这个过程中每个步骤的具体实现,并具备独立操作的            
                
         
            
            
            
            1.	说明在配置EXTRACT投递进程,每个进程大概50张表左右,在启动进程时,有其            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2022-09-29 11:36:41
                            
                                614阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            ogg在源端insert数据后,抽取进程出现OGG-00664、OGG-02078、OGG-02171异常            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2024-07-17 21:09:25
                            
                                333阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            OGG部署时,抽取进程(Extract)注册到数据库时遇到下面错误: REGISTER EXTRACT ***** DATABASE ERROR OGG-08221 Cannuse of the following SQL            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2024-03-26 13:16:44
                            
                                391阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            一般来说OGG Goldengate 抽取进程对CPU的压力非常小, 而对于I/O 、network的吞吐量有轻量级的要求。
用低配置AIX测试结果如下。
抽取进程支持DB Log生成峰值速度 = 4 * 2.1 = 8.4 MB/秒,或30GB/小时,或726 GB/天。
抽取进程平均CPU占用1.9% 。
投递进程支持DB Log生成平均速度 = 2,096,854 * 2.1 = 4.            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2013-04-22 22:54:16
                            
                                1827阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            环境版本:aix5309 oracle10.2.04 ogg11.2.1extract抽取进程报错,进程running一会后自动ABENDING,进程rba号没变化。错误日志:2012-08-12 08:09:04 ERROR OGG-00446 error 22 (Invalid argument)&nbs            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2013-08-28 12:36:42
                            
                                3147阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            问题概述某晚19点和22点系统维护人员收到两次告警信息,提示OGG源端抽取进程出现延迟,并且延迟时长一直在增加。登陆服务器查看,发现OGG所有抽取进程状态正常,但均出现不同程度的延迟。问题分析抽取进程状态正常,但是延迟一直在增加,可能的原因有以下几点:1、数据库事务量增加观察数据库的日志切换情况:在当天下午15-17点切换有所增加,但是在20点后恢复。因此,排除该原因。2、主机性能异常当主机性能出            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2023-09-28 14:24:00
                            
                                0阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            适用范围使用ogg做数据库迁移升级;ogg进程注册问题问题概述ogg注册抽取进程时一直异常卡住且无报错(正常情况一两分钟即可完成注册)问题原因根据排查,发现原因:由于数据库添加最小附加日志导致堵塞,添加附加日志的脚本一直在后台running,相关的session依旧存在,存在等待事件,ogg注册进程时注册进程会话被enq:DB -contention 阻塞解决方案一、问题分析1、确定卡住原因是存在            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2023-06-08 09:57:40
                            
                                0阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            Microservices Architecture introductionMicroservicesArchitecture is a method or approach to developing applications where an application is deployed as a suite of independently deployed small modular             
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-05-16 04:37:03
                            
                                152阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            有关ogg修改抽取进程检查点的文章            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2021-10-25 17:51:28
                            
                                204阅读