昨天做了个日常大数据归档,归档700W数据,表字段130左右,字段比较多,分享下! ----先禁用表的index 1.先获取需要禁用的索引 declare @tname varchar(100) set @tname='orders' select 'alter index '+' '+c.indexname+' '+'on'+' '&
原创
2012-04-26 16:07:00
887阅读
昨天做了个日常大数据归档,归档700W数据,表字段130左右,字段比较多,分享下!----先禁用表的index1.先获取需要禁用的索引declare @tname varchar(100)set @tname='orders'select 'alter index '+' '+c.indexname+' '+'on'+' '+@tname+' '+'disable'from (select * from (SELECTOBJECT_NAME(i.OBJECT_ID)
转载
2012-04-26 16:07:00
72阅读
2评论
前言介绍` pt-archiver是用来归档表的工具,可以做到低影响、高性能的归档工具,从表中删除旧数据,而不会对 OLTP 查询产生太大影响。可以将数据插入到另一个表中,该表不需要在同一台服务器上。可以将其写入适合 LOAD DATA INFILE 的格式的文件中。或者两者都不做,只做一个增量删除。 特点:1.可以根据where条件获取需要清理的数据2.支持事务批次提交,数据批次抓取3.支持插入
转载
2023-09-07 14:52:18
243阅读
# MySQL数据归档工具实现指南
在数据管理上,数据归档是非常重要的一环,可以帮助我们维护数据库性能,管理存储空间。本文将为刚入行的开发者提供一个简单的“MySQL数据归档工具”的实现方案,涵盖工作流程、代码示例及相关解释。
## 整体流程
首先,我们需要梳理出整个数据归档的流程。以下表格清晰地定义了每一步的主要任务。
| 步骤 | 描述
原创
2024-08-16 08:12:15
53阅读
SQL Server 大数据管理——数据归档 背景: 数据库几百GB,甚至TB级别数据库,历史数据偶尔会用到,不能直接删除,就需要定期归档历史数据。以往在归档历史数据方案:方案1:做全备保存归档数据,删除线上库归档数据方案2:创建一个新库,将归档数据导入到新库,备份保留新库,删除线上
转载
2023-08-21 09:44:22
127阅读
随着数据越来越旧,总有一天,业务数据需要归档。传统的做法是备份数据存到归档存储上,然后将数据物理删除,或者通过标志位进行逻辑删除。两种归档方法各有利弊:将数据物理删除可以节约空间,提升应用性能,但我们再次需要查询的时候,需要从归档查找并还原,很麻烦。将逻辑标记为删除,实际上数据还在数据库中,依然会占用空间并影响应用性能。一、数据库内归档采用数据库内归档是一个折中方案,通过将列标记为"不活跃(ina
转载
2023-12-01 06:52:27
108阅读
# 数据归档工具:MySQL与TiDB 的实现步骤
## 一、项目概述
在日常的数据库管理中,数据的归档是一个非常重要的任务,目的是将历史数据移至更低成本的存储中。本文将以MySQL和TiDB为背景,讲解如何实现一个简单的数据归档工具。
## 二、实施流程
以下是实现数据归档工具的基本步骤:
| 步骤 | 描述 |
| --
原创
2024-08-05 08:41:40
54阅读
更改数据库的归档模式需要重新启动数据库,在mount模式下修改,以下是一个简要的步骤说明:n 修改必要的初始化参数n 以immediate方式关闭数据库n &nb
1:开发环境和测试环境中,数据库的日志模式和自动归档模式一般都是不设置的,这样有利于系统应用的调整,也免的生成大量的归档日志文件将磁盘空间大量的消耗。2:生产环境时,将其设置为日志模式并自动归档就相当重要了,因为,这是保证系统的安全性,有效预防灾难的重要措施。这样,通过定时备份数据库和在两次备份间隔之间的日志 文件,可以有效的恢复这段时间的任何时间点的数据
转载
2023-08-28 10:29:32
63阅读
这两天一直在查找数据更新之类的问题,今天正好有机会和大家共享一下.一、需求1、在新项目中添加了新的功能模块,而已上线的旧项目中没有此功能模块,需添加进去。2、已知新项目模块中新增了三张表 TConsumeAccount TConsumeRecBufDSnew TConsumeAccountSum旧项目中存在表TConsumeRecBufD,需要将表TConsumeRecBufD中的数据同步到新表TConsumeRecBufDSnew中去,而新旧表的结构是有收支的。二、开发步调1、工具运行效果如下:点击“创建表”给就项目添加三张表。在代码中执行如下sql语句停止创建,在建表之前应先停止是不是已存
转载
2013-05-21 21:17:00
137阅读
2评论
最近新接到的一项工作是把SQL Server中保存了四五年的陈年数据(合同,付款,报销等等单据)进行归档,原因是每天的数据增量很大,而历史数据又不经常使用,影响生产环境的数据查询等操作。要求是: 1 归档的数据与生产环境数据分开保存,以便提高查询效率和服务器性能。 2 前端用户能够查询已归档的数据,即系统提供的功能不能发生改变 看起来要求不是很高,我自然会联想到两种
转载
2024-05-02 10:42:57
36阅读
事务日志备份事务日志是自上次备份事务日志后对数据库执行的所有事务的一系列记录。可以使用事务日志备份将数据库恢复到特定的即时点(如输入多余数据前的那一点)或恢复到故障点。
还原事务日志备份时,Microsoft® SQL Server™ 前滚事务日志中记录的所有更改。当 SQL Server 到达事务日志的最后时,已重新创建了与开始执行备份操作的那一刻完全相同的数据库
转载
2024-04-28 19:54:51
53阅读
应用场景在mysql数据库运维过程中,总会碰到一些比较棘手的事情,历史数据归档绝对算的上一个。由于一些历史原因,有些业务表当初被设计成单表,而且没有分区,业务跑了一段时间,发现越来越慢了。一排查,发现这些单表的数据太多了,导致查询效率变低,这个时候,需要将一些业务用不到的历史数据归档,减少表的数据量,提升查询效率。可是要丝滑的将这些历史数据进行归档,可不是一件容易的事情。注意是丝滑,不能停业务,不
转载
2023-12-26 19:56:09
43阅读
目录 文章目录目录1. 引言2. 工具说明2.1 使用方式2.2 选项说明3. 工作流程4. 实例4.1 表归档到表(逐行进行)4.2 表归档到表(批量进行)4.2.1 归档到当前实例,并删除数据4.2.2 归档到远程实例,不删除数据4.3 仅清除表数据4.4 表自增字段处理5. 总结 1. 引言2. 工具说明2.1 使用方式2.2 选项说明选项说明–analyze指定工具执行完成后对表的优化,如
转载
2023-08-02 18:07:24
143阅读
当mysql中某张表数据量很大时,和客户沟通可以进行归档(将XX天之前的数据备份后删除)。可以使用此文档。
目录
一、PT工具安装
二、使用说明
三、file和purge使用:
四、其他参数
五、脚本例子
一、PT工具安装
#下载:
#wget https://downloads.percona.com/downloads/per
转载
2024-04-08 00:01:36
91阅读
# Mysql 归档工具实现流程
作为一名经验丰富的开发者,我将指导你如何实现一个 Mysql 归档工具。首先,让我们来了解一下整个实现流程。下面的表格展示了实现该工具的步骤和每一步需要做的事情。
| 步骤 | 操作 |
|------|------|
| 1. 创建归档表 | 在数据库中创建一个归档表,用于存储归档数据 |
| 2. 导入数据 | 将需要归档的数据导入到归档表中 |
| 3.
原创
2023-08-23 06:39:07
84阅读
MySQL必备工具第九位: mk-archiver随着列表体积的日益增大,查询指令生效时间也每况愈“长”。响应时间不理想的干扰因素当然很多,但如果我们已经对各个角度实施了优化,那么最后仍然制约性能表现的瓶颈所在就是列表的规模了。将庞大列表中的各行内容进行归档操作能够有效缩短查询指令的响应时间。除非列表内容并不重要,否则大家千万不能贸然删除其中的内容行。归档也需要技巧,因为首先数据不能缺失、列表也不
转载
2024-04-16 14:07:34
30阅读
SyncNavigator v8.6.2SyncNavigator是一款功能强大的数据库同步软件,适用于SQLSERVER, MySQL,具有自动/定时同步数据、无人值守、故障自动恢复、同构/异构数据库同步、断点续传和增量同步等功能,支持Windows xp以上所有操作系统,适用于大容量数据库快速同步。安装包下载地址:https://www.syncnavigator.cn/Setup.zip帮助文档地址:https://www.syncnavigator.cn/Help_zh-CN.chm.
原创
2021-06-07 14:10:20
1879阅读
一、gzip/bzip2/xz [-#] file,只能压缩文件,不可压缩目录。 通用的参数: -#:指定压缩比1-9,默认是6 -d:展开,即解压1、 gzip:(1)、gunzip=gzip -d,默认压缩有原文件删除,解压后压缩文件删除。 -c:将压缩结果输出到屏幕,可以使用重定向将其保存为压缩文件,从而保留原文件。
原创
2014-09-25 16:56:48
584阅读
归档压缩
原创
2018-12-04 18:41:29
546阅读