1. 基本介绍RocksDB是Facebook开源的一个k-v存储组件，支持点查找和范围扫描， 并提供ACID保证。实现架构主要参考的是开源的leveldb和hbase的设计思想。目前RocksDB主要用于本地存储引擎。1.1 基础架构图Rocksdb中引入了ColumnFamily(列族, CF)的概念，所谓列族也就是一系列kv组成的数据集。所有的读写操作都需要先指定列族。写操作先写WAL，再写
转载
2024-01-01 13:29:35
324阅读
文章目录1、RocksDB 摘要1.1、RocksDB 特点1.2、基本接口1.3、编译2、LSM - Tree2.1、Memtable2.2、WAL2.3、SST2.4、BlockCache3、读写流程3.1、读取流程3.2、写入流程4、LSM-Tree 放大问题4.1、放大问题4.2、compaction RocksDB 是 Facebook 针对高性能磁盘开发开源的嵌入式持久化存储系统，
转载
2024-01-03 13:30:36
239阅读
类加载机制概述类从被加载到虚拟机内存中开始，到卸载出内存为止，它的整个生命周期包括：加载（Loading）、验证（Verification）、准备（Preparation）、解析（Resolution）、初始化（Initialization）、使用（Using）和卸载（Unloading）7个阶段。其中验证、准备、解析3个部分统称为连接（Linking）于初始化阶段，虚拟机规范则是严格规定了有且只
转载
2024-06-24 23:25:35
51阅读
前言rocksdb有多种compaction策略，默认的compaction策略应该为leveled compaction，我们本次分析leveled compaction机制。本次分析主要涉及到几个问题：compaction何时被触发compaction具体流程compaction如何与mvcc机制联动前置知识一个库的SST文件有多个每个SST文件都属于某一层 除了第0层的SST文件，
转载
2024-01-22 00:26:00
275阅读
Building RocksDB问：构建 RocksDB 所需的 gcc 的绝对最低版本是什么？ 答：4.8。 问：RocksDB 最新的稳定版本是什么？ 答：https://github.com/facebook/rocksdb/releases 中的所有版本都是稳定的。对于 RocksJava，稳定版本在 https://oss.sonatype.org/#nexus-search;quick
转载
2024-01-05 22:25:20
240阅读
目录1. 整体架构 文件类型 文件组织结构2. Flush3. Compaction4. Write Stall RocksDB是facebook开发的一款高性能的kv数据库，源自于LevelDB，并且
转载
2023-07-28 09:41:53
387阅读
使用TerarkDB提升MyRocks的性能——随机读场景下的 MySQL性能优化雷鹏 peng@CTO大纲l MyRocks简介l 为什么选择 MyRocksl 传统数据库的块压缩l 硬件的发展趋势l TerarkDB 和 MyRocks 的关系l TerarkDB 的原理、优势、劣势l 新的问题，以及优化建议MyRocks简介l MyRocks=MySQL+RocksDB(存储引擎)l 基于
转载
2024-05-28 09:48:46
54阅读
1. RocksDB介绍RocksDB是使用C++编写的嵌入式kv存储引擎，其键值均允许使用二进制流。由Facebook基于levelDB开发， 提供向后兼容的levelDB API。RocksDB针对Flash存储进行优化，延迟极小。RocksDB将最大限度的发挥闪存和RAM的高度率读写性能。RocksDB使用LSM存储引擎，纯C++编写。Java版本RocksJava正在开发中。参见Rocks
转载
2023-11-17 15:33:13
194阅读
最近在做数据中台资产管理系统，主要核心功能是数据资产发布成api或者文档，客户通过api直接获取发布的数据资产。需要一下一下几点功能：1 界面sql编辑数据产品2. 自动发布数据产品到api调研后一段时间主要技术有Rocket-api和Dataway(hasor) https://www.hasor.net/doc/display/dataway简介："Rocke
转载
2023-11-12 15:17:57
232阅读
rocksdb基础：LevelDB是由Google开源的，基于LSM Tree的单机KV数据库，其特点是高效，代码简洁而优美。RocksDB则是Facebook基于LevelDB改造的，属于嵌入式数据库，没有网络交互接口，必须和服务部署在同一台服务器高性能：RocksDB使用日志结构的数据库引擎，完全用C++编写，以获得最大的性能，键和值是任意大小的字节流为快速存储而优化：RocksDB针对快速、
转载
2024-01-30 02:44:02
105阅读
由于自己不怎么会使用DynamoDB就算看到了官方的文档也无法理解具体细节 这里做一个总结，也方便需要使用的人借鉴。 由于创建表的操作已经再网页完成 这里记录本地使用Java来实现增删改查的步骤。 目录 第一步 配置参数第二步 创建表第三步 使用本地调用3.1创建一个对象类型增加记录查看记录修改记录删除记录所有代码 包含了import 内容 第一步 配置参数引入 pom 文件 SpringBoot
转载
2024-05-31 04:43:17
97阅读
RabbitMQ 消息队列 成熟的中间件RabbitMQ、ZeroMQ、ActiveMQ等等 RabbitMQ使用erlang语言开发，使用RabbitMQ前要安装erlang语言 RabbitMQ允许不同应用、程序间交互数据 python中的Threading queue只能允许单进程内多线程交互的 python中的MultiProcessing queue只能允许父进程与子进
转载
2024-02-25 19:28:41
85阅读
1、架构Rocksdb中引入了ColumnFamily(列族, CF)的概念，所谓列族也就是一系列kv组成的数据集。所有的读写操作都需要先指定列族。写操作先预写日志（Write-Ahead Logging(WAL)），再写memtable，memtable达到一定阈值后切换为Immutable Memtable，只能读不能写。后台Flush线程负责按照时间顺序将Immutable Memtable
转载
2023-09-02 07:39:33
431阅读
注：本篇博客所用代码版本均为 v7.7.3。 文章目录前言从 GetImpl 开始分析LookupKeySaverMemTableRepiter -> Seek()SaveValue()从 Txn 复盘调用链 前言RocksDB 的所有对记录 delete 和 update 操作，都不是就地删或者就地更新，而是新增一个记录表示这个操作，而这个记录也是一个 <k, v>，和其他所有
目录1 介绍 21.1 文件介绍： 22 架构 33 特性 43.1 Get，Interator(迭代器)和快照 43.2 前缀迭代器 53.3 更新 53.4 持久化 53.5 ReadOnly 模式 63.6 数据库调试日志 63.7 事务日志 63.8 Memtable 管道 63.9 合并 Merge 操作 73.9.1 合并条件 74 工具 85 应用 95.1 初始化 95.2 使用
转载
2024-01-21 00:28:51
69阅读
因为使用到了MyRocks存储引擎，需要了解下下RocksDB，发现国内介绍的不详细就自己来写一遍吧。概述：
RocksDB 是针对KV数据存储的高性能嵌入式数据库，由Facebook的Dhruba Borthakur于2012年4月创建的LevelDB的分支，最初的
目标是提高服务工作负载的性能。
RocksDB针对多核CPU、高效快速存储（SSD)、I/O bound workload做
转载
2023-12-07 10:47:00
211阅读
【前言】了解一个组件的最好方式是先使用该组件，今天我们就来聊聊如何通过java api对iceberg进行操作。为什么是选择api进行介绍，而不是更通用的flink、spark、hive等。一方面是觉得flink、spark使用iceberg的介绍网上已经有很多，官网的介绍也比较清晰，而java api的介绍则相对少些；另一方面，不管是flink，spark最终都还是调用这些基本的api完成相关的
转载
2024-05-15 10:09:01
91阅读
在现代分布式系统中，RocksDB作为一个高性能的嵌入式数据库引擎，越来越被广泛应用。特别是在Java环境下，使用RocksDB可以显著提升数据读写性能。然而，与其他系统组件结合时，有时会出现一些问题，这篇博文将详细记录我在解决“RocksDB的Java版本”问题的流程，包括背景、错误分析、解决方案等。这将是一个轻松的复盘，分享一些实用技巧和经验。
### 问题背景
近年来，由于数据量的急剧增
RocksDB是FaceBook起初作为实验性质开发的一个高效数据库软件，旨在充分实现快存上存储数据的服务能力。RocksDB的主要设计点是在快存和高服务压力下性能表现优越，支持point lookup 和 range scan。RockesDB 是一个嵌入式的K-V（任意字节流）存储, 支持Get(key)、Put（Key
转载
2024-01-08 17:08:00
258阅读
Table of Contents 1. RocksDB 内存表简介2. HashLinkList 内存表2.1. 应用示例2.2. 实现代码2.2.1. Put2.2.2. Get2.2.3. Delete RocksDB 内存表简介RocksDB 是一个基于 LSM 树（Log-Structured Merge-tree）结构的单机数据库引擎，内存表是它最重要的数据结构之一。除了默认的跳
转载
2024-01-04 12:06:52
181阅读
