应用场景在mysql数据库运维过程中,总会碰到一些比较棘手的事情,历史数据归档绝对算的上一个。由于一些历史原因,有些业务表当初被设计成单表,而且没有分区,业务跑了一段时间,发现越来越慢了。一排查,发现这些单表的数据太多了,导致查询效率变低,这个时候,需要将一些业务用不到的历史数据归档,减少表的数据量,提升查询效率。可是要丝滑的将这些历史数据进行归档,可不是一件容易的事情。注意是丝滑,不能停业务,不
目录 文章目录目录1. 引言2. 工具说明2.1 使用方式2.2 选项说明3. 工作流程4. 实例4.1 表归档到表(逐行进行)4.2 表归档到表(批量进行)4.2.1 归档到当前实例,并删除数据4.2.2 归档到远程实例,不删除数据4.3 仅清除表数据4.4 表自增字段处理5. 总结 1. 引言2. 工具说明2.1 使用方式2.2 选项说明选项说明–analyze指定工具执行完成后对表的优化,如
转载 2023-08-02 18:07:24
107阅读
当mysql中某张表数据量很大时,和客户沟通可以进行归档(将XX天之前的数据备份后删除)。可以使用此文档。 目录 一、PT工具安装 二、使用说明 三、file和purge使用: 四、其他参数 五、脚本例子 一、PT工具安装 #下载: #wget https://downloads.percona.com/downloads/per
# Mysql 归档工具实现流程 作为一名经验丰富的开发者,我将指导你如何实现一个 Mysql 归档工具。首先,让我们来了解一下整个实现流程。下面的表格展示了实现该工具的步骤和每一步需要做的事情。 | 步骤 | 操作 | |------|------| | 1. 创建归档表 | 在数据库中创建一个归档表,用于存储归档数据 | | 2. 导入数据 | 将需要归档的数据导入到归档表中 | | 3.
原创 2023-08-23 06:39:07
62阅读
前言介绍` pt-archiver是用来归档表的工具,可以做到低影响、高性能的归档工具,从表中删除旧数据,而不会对 OLTP 查询产生太大影响。可以将数据插入到另一个表中,该表不需要在同一台服务器上。可以将其写入适合 LOAD DATA INFILE 的格式的文件中。或者两者都不做,只做一个增量删除。 特点:1.可以根据where条件获取需要清理的数据2.支持事务批次提交,数据批次抓取3.支持插入
MySQL必备工具第九位: mk-archiver随着列表体积的日益增大,查询指令生效时间也每况愈“长”。响应时间不理想的干扰因素当然很多,但如果我们已经对各个角度实施了优化,那么最后仍然制约性能表现的瓶颈所在就是列表的规模了。将庞大列表中的各行内容进行归档操作能够有效缩短查询指令的响应时间。除非列表内容并不重要,否则大家千万不能贸然删除其中的内容行。归档也需要技巧,因为首先数据不能缺失、列表也不
归档压缩
原创 2018-12-04 18:41:29
521阅读
压缩工具:1》 zip,unzip    格式:  #zip 压缩文件名 原文件名        1.递归的压缩一个目录及目录下的文件:        #zip -r var-log-dir  /var/log        2.压缩目录下
原创 2014-09-07 21:05:20
597阅读
MySQL归档工具pt-archiver
转载 2022-01-29 16:58:39
184阅读
一、gzip/bzip2/xz [-#] file,只能压缩文件,不可压缩目录。  通用的参数:  -#:指定压缩比1-9,默认是6  -d:展开,即解压1、 gzip:(1)、gunzip=gzip -d,默认压缩有原文件删除,解压后压缩文件删除。      -c:将压缩结果输出到屏幕,可以使用重定向将其保存为压缩文件,从而保留原文件。
原创 2014-09-25 16:56:48
544阅读
 SQL Server 大数据管理——数据归档 背景:        数据库几百GB,甚至TB级别数据库,历史数据偶尔会用到,不能直接删除,就需要定期归档历史数据。以往在归档历史数据方案:方案1:做全备保存归档数据,删除线上库归档数据方案2:创建一个新库,将归档数据导入到新库,备份保留新库,删除线上
转载 2023-08-21 09:44:22
109阅读
压缩工具:zip, unzipgzip, gunzip = gzip -d, zcat(不解压查看)后缀:.gz-c: 将压缩结果送往标准输出,可以使用重定向将其保存为压缩文件,从而保留原文件;bzip2, bunzip2 = bzip2 -d, bzcat(不解压查看)后缀:.bz2xz, unxz = xz -d, xzcat(不解压查看)后缀:.xz-#: 指定压缩比,1-9归档工具:tar
原创 2015-02-25 14:17:16
461阅读
# MySQL数据归档工具实现指南 在数据管理上,数据归档是非常重要的一环,可以帮助我们维护数据库性能,管理存储空间。本文将为刚入行的开发者提供一个简单的“MySQL数据归档工具”的实现方案,涵盖工作流程、代码示例及相关解释。 ## 整体流程 首先,我们需要梳理出整个数据归档的流程。以下表格清晰地定义了每一步的主要任务。 | 步骤 | 描述
原创 1月前
12阅读
1:开发环境和测试环境中,数据库的日志模式和自动归档模式一般都是不设置的,这样有利于系统应用的调整,也免的生成大量的归档日志文件将磁盘空间大量的消耗。2:生产环境时,将其设置为日志模式并自动归档就相当重要了,因为,这是保证系统的安全性,有效预防灾难的重要措施。这样,通过定时备份数据库和在两次备份间隔之间的日志       文件,可以有效的恢复这段时间的任何时间点的数据
转载 2023-08-28 10:29:32
57阅读
常用压缩工具原理:    因为1byte=8bit,一个字节等于8位二进制数,所以每个byte当中会有8个空格,而每个空格可以是0,1。如此以来我存储一个字符1,1会在最右边占据一个bit,而其它7个bit将会被自动被填上0。其实那7个bit应该是空的。为了满足我们操作系统对数据的访问,所以会将该数据转为byte的形态来记录。压缩即:利用一些复杂的计算方式,
原创 精选 2016-03-17 15:45:56
1028阅读
2点赞
1评论
压缩即使用特定的算法来减小计算机文件大小的机制。linux常用的压缩和解压缩工具有gzip/gunzip、bzip2/bunzip2、xz/unxz、zip/unzip,另外还有一个重要的归档工具tar和备份工具cpio一、压缩和解压缩工具①gzip:压缩包后缀为.gz,压缩对象不能是目录,压缩后默认会删除原文件   用法:gzip [option] somefile&nbsp
原创 2015-10-20 11:52:41
720阅读
# 数据归档工具:MySQL与TiDB 的实现步骤 ## 一、项目概述 在日常的数据库管理中,数据的归档是一个非常重要的任务,目的是将历史数据移至更低成本的存储中。本文将以MySQL和TiDB为背景,讲解如何实现一个简单的数据归档工具。 ## 二、实施流程 以下是实现数据归档工具的基本步骤: | 步骤 | 描述 | | --
原创 1月前
20阅读
1.jar是JDK中提供的一种多用途的存档及压缩工具,可以将多个文件或目录合并压缩为单个的java归档文件。jar文件的主要作用:发布和使用类库便于资源的组合和管理格式:jarcvf要生成的包名.jar*2.异常异常不是编译错误要是运行错误,发现没有异常处理,就会层层返回找有没有异常处理,发现都没有时,jvm虚拟机会自己中断程序抛出异常。error是系统错误,程序员无法处理这些异常。Excepti
翻译 2019-03-05 21:59:35
523阅读
文档:压缩、解压缩与归档工具.note链接:http://note.youdao.com/noteshare?id=0c2c68aba3af2c1525447631aefb2091&sub=84683B688A87424AA8A3865DF544C12B
原创 2019-05-24 16:29:31
361阅读
随着数据越来越旧,总有一天,业务数据需要归档。传统的做法是备份数据存到归档存储上,然后将数据物理删除,或者通过标志位进行逻辑删除。两种归档方法各有利弊:将数据物理删除可以节约空间,提升应用性能,但我们再次需要查询的时候,需要从归档查找并还原,很麻烦。将逻辑标记为删除,实际上数据还在数据库中,依然会占用空间并影响应用性能。一、数据库内归档采用数据库内归档是一个折中方案,通过将列标记为"不活跃(ina
  • 1
  • 2
  • 3
  • 4
  • 5