文章目录1、RocksDB 摘要1.1、RocksDB 特点1.2、基本接口1.3、编译2、LSM - Tree2.1、Memtable2.2、WAL2.3、SST2.4、BlockCache3、读写流程3.1、读取流程3.2、写入流程4、LSM-Tree 放大问题4.1、放大问题4.2、compaction RocksDB 是 Facebook 针对高性能磁盘开发开源的嵌入式持久化存储系统，
转载
2024-01-03 13:30:36
239阅读
1. 基本介绍RocksDB是Facebook开源的一个k-v存储组件，支持点查找和范围扫描， 并提供ACID保证。实现架构主要参考的是开源的leveldb和hbase的设计思想。目前RocksDB主要用于本地存储引擎。1.1 基础架构图Rocksdb中引入了ColumnFamily(列族, CF)的概念，所谓列族也就是一系列kv组成的数据集。所有的读写操作都需要先指定列族。写操作先写WAL，再写
转载
2024-01-01 13:29:35
324阅读
类加载机制概述类从被加载到虚拟机内存中开始，到卸载出内存为止，它的整个生命周期包括：加载（Loading）、验证（Verification）、准备（Preparation）、解析（Resolution）、初始化（Initialization）、使用（Using）和卸载（Unloading）7个阶段。其中验证、准备、解析3个部分统称为连接（Linking）于初始化阶段，虚拟机规范则是严格规定了有且只
转载
2024-06-24 23:25:35
51阅读
目录1. 整体架构 文件类型 文件组织结构2. Flush3. Compaction4. Write Stall RocksDB是facebook开发的一款高性能的kv数据库，源自于LevelDB，并且
转载
2023-07-28 09:41:53
387阅读
使用TerarkDB提升MyRocks的性能——随机读场景下的 MySQL性能优化雷鹏 peng@CTO大纲l MyRocks简介l 为什么选择 MyRocksl 传统数据库的块压缩l 硬件的发展趋势l TerarkDB 和 MyRocks 的关系l TerarkDB 的原理、优势、劣势l 新的问题，以及优化建议MyRocks简介l MyRocks=MySQL+RocksDB(存储引擎)l 基于
转载
2024-05-28 09:48:46
54阅读
1. RocksDB介绍RocksDB是使用C++编写的嵌入式kv存储引擎，其键值均允许使用二进制流。由Facebook基于levelDB开发， 提供向后兼容的levelDB API。RocksDB针对Flash存储进行优化，延迟极小。RocksDB将最大限度的发挥闪存和RAM的高度率读写性能。RocksDB使用LSM存储引擎，纯C++编写。Java版本RocksJava正在开发中。参见Rocks
转载
2023-11-17 15:33:13
194阅读
最近在做数据中台资产管理系统，主要核心功能是数据资产发布成api或者文档，客户通过api直接获取发布的数据资产。需要一下一下几点功能：1 界面sql编辑数据产品2. 自动发布数据产品到api调研后一段时间主要技术有Rocket-api和Dataway(hasor) https://www.hasor.net/doc/display/dataway简介："Rocke
转载
2023-11-12 15:17:57
232阅读
rocksdb基础：LevelDB是由Google开源的，基于LSM Tree的单机KV数据库，其特点是高效，代码简洁而优美。RocksDB则是Facebook基于LevelDB改造的，属于嵌入式数据库，没有网络交互接口，必须和服务部署在同一台服务器高性能：RocksDB使用日志结构的数据库引擎，完全用C++编写，以获得最大的性能，键和值是任意大小的字节流为快速存储而优化：RocksDB针对快速、
转载
2024-01-30 02:44:02
105阅读
RabbitMQ 消息队列 成熟的中间件RabbitMQ、ZeroMQ、ActiveMQ等等 RabbitMQ使用erlang语言开发，使用RabbitMQ前要安装erlang语言 RabbitMQ允许不同应用、程序间交互数据 python中的Threading queue只能允许单进程内多线程交互的 python中的MultiProcessing queue只能允许父进程与子进
转载
2024-02-25 19:28:41
85阅读
1、架构Rocksdb中引入了ColumnFamily(列族, CF)的概念，所谓列族也就是一系列kv组成的数据集。所有的读写操作都需要先指定列族。写操作先预写日志（Write-Ahead Logging(WAL)），再写memtable，memtable达到一定阈值后切换为Immutable Memtable，只能读不能写。后台Flush线程负责按照时间顺序将Immutable Memtable
转载
2023-09-02 07:39:33
431阅读
目录1 介绍 21.1 文件介绍： 22 架构 33 特性 43.1 Get，Interator(迭代器)和快照 43.2 前缀迭代器 53.3 更新 53.4 持久化 53.5 ReadOnly 模式 63.6 数据库调试日志 63.7 事务日志 63.8 Memtable 管道 63.9 合并 Merge 操作 73.9.1 合并条件 74 工具 85 应用 95.1 初始化 95.2 使用
转载
2024-01-21 00:28:51
69阅读
前言rocksdb有多种compaction策略，默认的compaction策略应该为leveled compaction，我们本次分析leveled compaction机制。本次分析主要涉及到几个问题：compaction何时被触发compaction具体流程compaction如何与mvcc机制联动前置知识一个库的SST文件有多个每个SST文件都属于某一层 除了第0层的SST文件，
转载
2024-01-22 00:26:00
275阅读
因为使用到了MyRocks存储引擎，需要了解下下RocksDB，发现国内介绍的不详细就自己来写一遍吧。概述：
RocksDB 是针对KV数据存储的高性能嵌入式数据库，由Facebook的Dhruba Borthakur于2012年4月创建的LevelDB的分支，最初的
目标是提高服务工作负载的性能。
RocksDB针对多核CPU、高效快速存储（SSD)、I/O bound workload做
转载
2023-12-07 10:47:00
211阅读
【前言】了解一个组件的最好方式是先使用该组件，今天我们就来聊聊如何通过java api对iceberg进行操作。为什么是选择api进行介绍，而不是更通用的flink、spark、hive等。一方面是觉得flink、spark使用iceberg的介绍网上已经有很多，官网的介绍也比较清晰，而java api的介绍则相对少些；另一方面，不管是flink，spark最终都还是调用这些基本的api完成相关的
转载
2024-05-15 10:09:01
91阅读
RocksDB是FaceBook起初作为实验性质开发的一个高效数据库软件，旨在充分实现快存上存储数据的服务能力。RocksDB的主要设计点是在快存和高服务压力下性能表现优越，支持point lookup 和 range scan。RockesDB 是一个嵌入式的K-V（任意字节流）存储, 支持Get(key)、Put（Key
转载
2024-01-08 17:08:00
258阅读
Building RocksDB问：构建 RocksDB 所需的 gcc 的绝对最低版本是什么？ 答：4.8。 问：RocksDB 最新的稳定版本是什么？ 答：https://github.com/facebook/rocksdb/releases 中的所有版本都是稳定的。对于 RocksJava，稳定版本在 https://oss.sonatype.org/#nexus-search;quick
转载
2024-01-05 22:25:20
240阅读
Table of Contents 1. RocksDB 内存表简介2. HashLinkList 内存表2.1. 应用示例2.2. 实现代码2.2.1. Put2.2.2. Get2.2.3. Delete RocksDB 内存表简介RocksDB 是一个基于 LSM 树（Log-Structured Merge-tree）结构的单机数据库引擎，内存表是它最重要的数据结构之一。除了默认的跳
转载
2024-01-04 12:06:52
181阅读
本文针对RocksDB的基本概念进行总结1. 主要概念1.1. LSM Tree介绍 B+树读效率高而写效率差；log型文件操作写效率高而读效率差；因此要在排序和log型文件操作之间做个折中，于是就引入了log-structed merge tree模型，通过名称可以看出LSM既有日志型的文件操作，提升写效率，又在每个sstable中排序，保证了
转载
2023-11-03 08:26:10
159阅读
RocksDB的安装以及基本接口的使用一、简介二、编译安装三、基本接口及使用四、RocksDB高级功能的使用五、完整编程示例总结 一、简介RocksDB 是 Facebook 的一个实验项目，目的是希望能开发一套能在服务器压力下，真正发挥高速存储硬件性能的高效数据库系统。RocksDB是一个存储引擎，不提供网络服务，只专注于具体的存储。这是一个 C++ 库，允许存储任意长度二进制 KV 数据。支
转载
2023-10-23 09:59:41
185阅读
RocksDB作为一个开源的存储引擎支持事务的ACID特性，而要支持ACID中的I(Isolation),并发控制这块是少不了的，本文主要讨论RocksDB的锁机制实现，细节会涉及到源码分析，希望通过本文读者可以深入了解RocksDB并发控制原理。文章主要从以下4方面展开，首先会介绍RocksDB锁的基本结构，然后我会介绍RocksDB行锁数据结构设计下，
转载
2024-06-04 13:54:31
167阅读
