前言作为一个企业或者DBA,我们通常会有这种想法,数据是一个公司的核心命脉,应该需要永久保存,很多时候DBA和开发沟通的时候,开发人员也会这么告诉我们,这份数据非常重要,数据需要永久保存。然而,如果将数据库的数据永久保存,那么迟早有一天,你会拥有一个非常大的数据库。作为一个DBA,通常为了业务对数据库的操作性能考虑和存储容量的考虑。我们会建议对数据库里大表进行数据归档,例如将使用的高频
pt-archiver简介: 把MySQL表中的部分行存档到另外的表或者文件中 概要1.用法:`pt-archiver[可选项]--sourceDSN--whereWHERE` 2.详细介绍 本着在OLTP环境中可以尽量少影响查询性能的目的,我将这个工具设计可以在低性能影响,正向性的情况下将数据小批量小批量的将旧数据取出并归档。本工具依靠插件式的原理实现了可扩展性,各位可以对此工具进行增加更本地化的功能
翻译 2017-12-07 09:51:00
7043阅读
一.主要概述MySQL数据库归档历史数据主要可以分为三种方式:一.创建编写SP、设置Event;二.通过dump导入导出;三.通过pt-archiver工具进行归档。第一种方式往往受限于同实例要求,往往被大家舍弃。第二种,性能相对较好,但是归档表较多时运维也是比较头疼的事。所以很多DBA往往采用第三种方式--pt-archiver。pt-archiver是Percona-Toolkit工具集中的一
目录 文章目录目录1. 引言2. 工具说明2.1 使用方式2.2 选项说明3. 工作流程4. 实例4.1 表归档到表(逐行进行)4.2 表归档到表(批量进行)4.2.1 归档到当前实例,并删除数据4.2.2 归档到远程实例,不删除数据4.3 仅清除表数据4.4 表自增字段处理5. 总结 1. 引言2. 工具说明2.1 使用方式2.2 选项说明选项说明–analyze指定工具执行完成后对表的优化,如
转载 2023-08-02 18:07:24
107阅读
应用场景在mysql数据库运维过程中,总会碰到一些比较棘手的事情,历史数据归档绝对算的上一个。由于一些历史原因,有些业务表当初被设计成单表,而且没有分区,业务跑了一段时间,发现越来越慢了。一排查,发现这些单表的数据太多了,导致查询效率变低,这个时候,需要将一些业务用不到的历史数据归档,减少表的数据量,提升查询效率。可是要丝滑的将这些历史数据进行归档,可不是一件容易的事情。注意是丝滑,不能停业务,不
简介:mysql 日志slow log和 error log归档,发现还挺麻烦的。因为如果是大文件的话,比如大于200g,如果直接copy的话,就会把IO打满,影响mysql的生产业务。一 、安全清理mysql 日志文件脚本首先处理掉大的日志文件,因为logrotate轮转时是先copy,然后再清理日志文件,会打满磁盘IO。1、把日志文件slow log和error log重命名;2、然后进入my
Percona MySQL是一个开源的关系型数据库管理系统,它是MySQL数据库的分支,提供了更强大和高性能的功能。本文将介绍Percona MySQL的安装步骤,并提供相应的代码示例。 ## 1. 下载Percona MySQL 首先,我们需要从Percona官方网站下载Percona MySQL的安装包。在官网的下载页面上,可以选择适合自己操作系统的版本进行下载。 ## 2. 安装Per
原创 7月前
74阅读
Percona XtraBackup 是基于mysql服务器的开源热备份工具;支持的数据库 Pe
原创 2023-01-10 11:43:19
102阅读
# 实现“percona备份mysql”流程 ## 步骤表格 | 步骤 | 描述 | |------|------| | 1 | 安装percona工具 | | 2 | 创建备份账号 | | 3 | 编写备份脚本 | | 4 | 执行备份脚本 | ## 每一步具体操作 ### 步骤1: 安装percona工具 ```markdown # 下载并安装percona-xtrabackup s
原创 4月前
31阅读
# Percona监控MySQL 在数据库管理中,监控数据库的性能是非常重要的。Percona是一个提供MySQL和MariaDB支持的服务提供商,他们提供了一套工具来监控MySQL数据库的性能。在本文中,我们将介绍如何使用Percona提供的工具来监控MySQL。 ## 安装Percona监控工具 首先,我们需要安装Percona监控工具Percona Monitoring and Man
原创 5月前
52阅读
mysql中某张表数据量很大时,和客户沟通可以进行归档(将XX天之前的数据备份后删除)。可以使用此文档。 目录 一、PT工具安装 二、使用说明 三、file和purge使用: 四、其他参数 五、脚本例子 一、PT工具安装 #下载: #wget https://downloads.percona.com/downloads/per
注:此方式目前安装存在问题(弃用此方式) 1.在官方网站下载percona XtraBackup https://www.percona.com/downloads/XtraBackup/LATEST/ 2.将以下两个文件拷贝到/etc/yum.repos.d/目录下 cdrom.repo perc
原创 2022-08-08 10:40:31
122阅读
# 深入了解Percona MySQL Worklog ## 什么是Percona MySQL Worklog? Percona MySQL Worklog 是一个用于改进和维护Percona MySQL数据库的工作日志系统。它允许Percona MySQL开发人员、DBA和其他用户共同合作,跟踪数据库的各种需求、功能和bug修复。 ## 目的 Percona MySQL Worklog
原创 3月前
8阅读
# Percona MySQL 审计 在数据库管理中,审计是一项非常重要的工作,它可以记录数据库操作的日志,帮助管理员监控数据库的安全性和性能。Percona MySQL 是一个广泛使用的开源数据库管理系统,它提供了一些功能强大的审计工具,帮助管理员轻松地审计数据库操作。 ## 什么是Percona MySQL 审计? Percona MySQL 审计是指通过监控和记录数据库的所有操作,包括
原创 6月前
49阅读
由于线上的MySQL实时表数据量太大,即使建了索引查询速度也不理想,上周下班前经理让我对线上MySQL的七张源数据层面的实时表进行归档,现表仅保留近三天的数据,三天之前的数据全部归档到历史表中一、基本思想考虑到按照时间进行归档,因此MySQL按时间创建分区表,并且动态维护每张历史表的分区,将三天前的数据插入到历史表中,根据时间的不同会落到不同的分区中;校验数据量在没有丢失的情况下删除原表数据并记录
转载 2023-06-29 10:29:44
394阅读
一、引言前段时间,在优雅的使用pt-archiver进行数据归档一文中介绍了pt-archiver的使用方法,也将pt-archiver部署到了生产环境,这时候问题来了~生产环境需要做归档的任务有十几个,如果要知道每个归档任务成功与否、跑了多长时间、归档了多少数据,就得手工逐个查看日志,非常枯燥的重复劳动,那是否有办法可以统一管理呢?于是用python倒腾了一个小工具—mysql_archiver
Percona pt-archiver重构版--大表数据归档工具相信很多小伙伴们,在日常对接开发时,有很多大表在业务上并没有采取任何形式的切分,数据不停地往一张表里灌入,迟早有一天,磁盘空间报警。作为一个DBA,侧重点是对数据库的操作性能(大表增加字段/索引,QPS等)和存储容量加以考虑,我们会建议开发对数据库里的大表进行数据归档处理,例如将3个月内的订单表保留在当前表,历史数据切分后保存在归档
原创 2018-08-07 18:01:36
10000+阅读
2点赞
2评论
背景:在很多业务场景中,每过一段时间就需要对大表进行归档操作以保障系统对性能稳定,但是这种操作往往会留下很多表空间碎片,所以每隔一段时间也需要对表空间进行清理。mysql中optimize table 是比较常用的清理磁盘命令,但是这个命令对缓存区有大小要求,如果一次归档过多数据,往往耗时久还非常有可能无法成功。所以只剩下了alter table这个命令,但是这个命令也非常慢:因为原理是先复制表在
归档对于DBA来说是一个非常严肃的话题,但是对于开发来说可能就没有那么的重视,最近我接到开发经理的需求说要归档两个月以前的短信日志;在开发和开发经理看来,短信下发了就下发了,超过60天的数据已经处于完全无用状态,属于可丢弃数据; 需求到我这里,我给了两个方案,1、做一个归档数据库,2、文本形式归档其中做归档数据库肯定是比较复杂的,原因有:1、考虑整个平台的通用性,可定要慎重的选型数据库2
归档日志:bin-log。删库恢复的解决方案!主从复制的解决方案! bin-log基本信息Binlog在MySQL的Server层实现(引擎共用)Binlog为逻辑日志,记录的是一条语句的原始逻辑Binlog不限大小,追加写入,不会覆盖以前的日志如果,我们误删了数据库,可以使用binlog进行归档!要使用binlog归档,首先我们得记录binlog,因此
转载 2023-08-08 11:38:48
83阅读
  • 1
  • 2
  • 3
  • 4
  • 5