在把一个大表从 MySQL 迁移到 Redis 时，你可能会发现，每次提取、转换、导入一条数据是让人难以忍受的慢！这里有一个技巧，你可以通过使用管道把 MySQL 的输出直接输入到 redis-cli输入端，这可以使两个数据库都能以他们的最顶级速度来运行。使用了这个技术，我把 800 万条 MySQL 数据导入到 Redis 的时间从 90 分钟缩短到了两分钟。Mysql到Redis的数据协议re
转载
精选
2014-04-18 18:24:32
794阅读
在把一个大表从 MySQL 迁移到 Redis 时，你可能会发现，每次提取、转换、导入一条数据是让人难以忍受的慢！这里有一个技巧，你可以通过使用管道把 MySQL 的输出直接输入到 redis-cli输入端，这可以使两个数据库都能以他们的最顶级速度来运行。使用了这个技术，我把 800 万条 MySQL 数据导入到 Redis 的时间从 90 分钟缩短到了两分钟。Mysql到Redis的数据协议re
转载
精选
2014-04-18 17:19:02
513阅读
老服务器上内存一直报警，所以要把一部分redis数据迁移到新服务器上去。 迁移的方式有两种，一种是停服务器，搬迁数据；另一种通过主从同步转移。 停服务器，搬迁数据 首先在原服务器上执行redis-cli shutdown命令，该命令会触发保证写RDB文件以及将AOF文件写入磁盘，不会丢失数
转载
2023-07-04 19:55:13
162阅读
搜索 ： MySQL关系型数据库迁移到ES………… 一个关于es的项目，即将部分数据量较大的功能从MySQL关系型数据库迁移到es上面。数据格式设计设计es的index和type的时候，首先要抛开关系型数据库的那种join表查询的概念，要么使用内嵌文档、要么使用父子文档。父子文档的使用前提是父文档数量较少而子文档数量非常多。举个例子，主机组和主机之间，由于项目里面主机的数量本来
转载
2023-08-20 14:41:22
157阅读
在线数据迁移方式对于大多数场景下的Redis的数据迁移，还是比较推荐大家参考我之前的前两篇文章。【Redis 技术探索】「数据迁移实战」手把手教你如何实现在线 + 离线模式进行迁移 Redis 数据实战指南（在线同步数据）【Redis 技术探索】「数据迁移实战」手把手教你如何实现在线 + 离线模式进行迁移 Redis 数据实战指南（离线同步数据）scan模式在线数据迁移的场景和原因但是还有一种常见
转载
2024-02-14 19:29:05
51阅读
1. redis-shake它支持解析、恢复、备份、同步四个功能恢复restore：将RDB文件恢复到目的redis数据库。备份dump：将源redis的全量数据通过RDB文件备份起来。解析decode：对RDB文件进行读取，并以json格式解析存储。同步sync：支持源redis和目的redis的数据同步，支持全量和增量数据的迁移，支持从云下到阿里云云上的同步，也支持云下到云下不同环境的同步，支
转载
2023-06-29 14:32:28
238阅读
1、mysql开启bin_log打开my.ini文件（linux中是my.cnf）log-bin=mysql-bin
# 开启 binlog
binlog-format=ROW
# 选择 ROW 模式
server_id=1
# 配置 MySQL replaction 需要定义，不要和 go-mysql-transfer 的 slave_id 重复2、确保mysql可以远程登录如果不行，则登
转载
2023-10-09 20:07:57
463阅读
一个简单快速的将MySQL的数据迁移到Redis中并且以hash方式存储，数据的存储需要遵守redis的通讯协议(官方连接 http://redis.io/topics/mass-insert)，如: *3 CR LF //三个字段 $3 CR L
原创
2017-11-16 14:37:55
1185阅读
点赞
前言在日常项目开发中，可能会遇到使用 ES 做关键词搜索的场景，但是一般来说业务数据是不会直接通过 CRUD 写进 ES 的。因为这可能违背了 ES 是用来查询的初衷，数据持久化的事情可以交给数据库来做。那么，这里就有一个显而易见的问题：ES 里的数据从哪里来？本文介绍的就是如何将 MySQL 的表数据迁移到 ES 的全过程。一、一次性全量该方案的思路很简单直接：将数据库中的表数据一次性查出，放入
转载
2024-08-27 20:48:28
90阅读
题记： 工作辞了，在家闲着也是闲着，研究了下non-relational数据库，恰巧看到robbin大哥写的“NOSQL数据库探讨”，便迫切想学习下，了解到MongoDB一些基本知识后，就去瞅了下在robbin大哥的文中提及到的一个MongoDB移植案例，如：“由于Mongo可以支持复杂的数据结构，而且带有强大的数据查询功能，因此非常受到欢迎，很多项目都考虑用M
转载
2024-01-25 12:17:12
91阅读
由于业务需求，需要将数据从mysql上迁移到mongo上，我从网络上查了一下资料，网上的方案大多是使用工具导出，但我觉得很麻烦，于是打算自己用golang写个小程序来完成这个功能迁移思路1、一般方式一般的方式是先根据数据表的定义，在golang中定义一个结构体，打上对应的tag，然后使用sqlx来将读取到的数据反序列化到结构体中来，然后再序列化成mongo的document插入数据库。过程如下：m
转载
2023-09-21 14:05:09
300阅读
背景如果你有自建的 MySQL 集群，并且已经感受到了云原生的春风拂面，想将数据迁移到 Kubernetes 上，那么这篇文章可以给你一些思路。文中将自建 MySQL 集群数据，在线迁移到 Kubernetes 的 MySQL 集群中，快速实现了 MySQL on Kubernetes。适用场景自建 MySQL 数据库迁移至 Kubernetes 的过程中。优点是停机时间短，数据一致性强。前提条件
转载
2023-06-24 16:51:52
451阅读
一、生成索引类型1、根据MySQL中file类，构造索引类型。 在这个项目中，需要被分词的字段不多，一个是文件内容，一个是文件标题，可以将他们共同封装到content字段那种，也可以分开设计字段，分别索引，所需要进行的操作很简单，但是有坑。 我需要将后缀名为doc和docx的文件打开，获取其中所有信息。 进行这个操作时，报错挺多的，百度后有的说是WPS文档不行，有的说新旧版本不兼容，有的说是缺少依
转载
2023-08-01 20:50:28
182阅读
最近工作中，由于我司数据库采用单节点部署，线上出现了测试环节无法涉及的数据量而导致的性能问题，需要将生产环境的数据导回测试环境并恢复以供测试研发同时进行定位优化。但是当生产环境数据量特别大时，在做数据库迁移工作时，如果使用数据库自带的导出导入工具，非常耗时。最简单粗暴方式为将数据库的整个数据目录拷贝，而后在其他机器上进行数据恢复。以下记录记录前一阶段是如何进行海量数据的导入导出。一、 mysql数
转载
2023-08-07 08:59:01
492阅读
背景故事: 公司的MySQL数据库关联太复杂了，结构难缠，关系混乱，为了后续项目的方便查询，老板交代，需要将MySQL的数据全部迁移至MongoDB中去。这MySQL数据量大概在40M左右，数据量5w+,说起来不算太大，如果一条一条的读取迁移，任务也能完成，具体实施起来，效率就是慢的一批。果断转换思路。ε=(´ο｀*)))唉，想当年也是操作数据库的一把好手，不曾想，在这爬虫领域逍遥自在了许久，竟忘
转载
2023-08-10 09:06:29
147阅读
MySQL Binlog 要通过 MySQL binlog 将 MySQL 的数据同步给 ES， 我们只能使用 row 模式的 binlog。如果使用 statement 或者 mixed format，我们在 binlog 里面只能知道对应的 query 语句，完全没法知道这条语句到底改了啥数据，所以要从 binlog 里面得到实际的数据，只能用 row 模式。 Row 模式还可以设置
转载
2023-09-14 21:57:55
113阅读
# Redis 迁移到云 Redis
## 引言
随着云计算技术的发展和普及，越来越多的企业开始将他们的应用程序迁移到云平台上。对于使用 Redis 作为数据存储的应用程序来说，迁移到云 Redis 可以带来许多好处，如高可用性、弹性扩展和自动管理等。本文将介绍如何将本地 Redis 迁移到云 Redis，并提供相应的代码示例。
## 迁移步骤
### 步骤一：创建云 Redis 实例
原创
2023-08-14 17:01:17
178阅读
pgloader介绍pgloader是一个数据导入工具，使用COPY命令将数据导入到PostgreSQL。pgloader有两种工作模式，一种是从文件导入，一种是迁移数据库。pgloader在两种情况下都使用PostgreSQL的COPY协议高效的传输数据。openGauss兼容PostgreSQL的通信协议以及绝大部分语法，可使用pgloader将MySQL数据库迁移至openGauss。pgl
转载
2023-11-17 19:26:50
130阅读
一、常见redis数据迁移方式
业内，常见的redis数据迁移方式有以下三种：
aof（日志文件）、
rdb（快照文件）、
replication（主从复制）。
其中，aof和rdb两种方式适用于跨网络（网络隔离）的redis实例之间的数据迁移，通过：在源实例上执行指令（bgrewriteaof/bgsave）生成aof或者rdb文件 -> 下载数据文件 ->
转载
2023-08-24 13:43:23
782阅读
一 前言如图，是我的环境。这里边有三个系统，1 业务系统。2 redis cluster集群。3 redis cluster集群的管理系统。系统1，会对redis中进行秒级的数据添加，读取，删除操作。系统3，是redis集群的增加节点减少节点，节点failover功能进行管理。如图目前，我的系统里，redis共占用了a1，b1，c1，d1四台物理设备。我的目的是，在不影响业务系统运行的情况下，将r
转载
2023-06-30 13:11:27
153阅读
