什么是Spark？关于Spark具体的定义，大家可以去阅读官网或者百度关于Spark的词条，在此不再赘述。从一个野生程序猿的角度去理解，作为大数据时代的一个准王者，Spark是一款主流的高性能分布式计算大数据框架之一，和MapReduce，Hive，Flink等其他大数据框架一起支撑了大数据处理方案的一片天空。笔者所在的公司，集群里面有数千台高配机器搭载了Spark(还有Hive和Flink)，用
转载
2023-12-15 15:02:47
22阅读
Redis作为一种Key-Value形式的NoSQL，因其极高的读写速度深受开发者喜爱，在web、分布式等领域有非常广泛的应用。根据runoob的介绍， Redis能读的速度是110000次/s,写的速度是81000次/s。Redis的快只是因为它是基于内存的吗？这里有一篇详细的文章对比了目前最流行的两种NoSQL—— Redis和MongoDB的性能，Redis vs. MongoDB: Com
转载
2023-08-15 08:26:17
403阅读
在实际场景中会遇到这样的一种情况：数据量很大，而且还要分页查询，如果数据量达到百万级别之后，性能会急剧下降，导致查询时间很长，甚至是超时。接下来我总结了两种常用的优化方案，仅供参考。但是需要注意的是有个前提：主键id是递增且数据有序。
转载
2023-06-26 18:29:48
461阅读
问题：现在有二个系统A，B二个系统，A系统是C端的一个系统，B系统是B端的一个系统，B系统DB有一套数据模型，A系统访问B系统获取这份配置数据，如何保证性能以及热点key问题？方案（1）使用redis缓存，在B系统可以将配置数据放到redis缓存中，同时B系统给A系统提供一个近端包支持 优先从缓存获取，缓存没有命中读取远端的数据方案（1）面临的问题： 1、如果缓存数据量过大，一般red
转载
2024-04-07 17:38:45
40阅读
似乎总有几个项目声称他们已经建立了"世界上最快的键/值存储"，有时使用的短语甚至更加离谱，比如以下项目：Redis： https://github.com/redis/redis
KeyDB： https://github.com/snapchat/keydb
Dragonfly： https://github.com/dragonflydb/dragonfly
Skytable： https:/
转载
2024-01-22 20:57:16
426阅读
1 什么是大 key Redis 中有常见的几种数据结构，每种结构对大 key 的定义不同，比如： value 是 String 类型时，size 超过 10KB 为大 key； value 是 ZSET、Hash、List、Set等集合类型时，它的成员数量超过 1 万个为大 key。 2大 key 有什么影响 我们都知道，Redis 的一个典型特征就是：核心工作线程是单线程。 单线程中请求任务的
转载
2023-05-26 17:41:41
114阅读
1.Redis常见使用场景数据高并发的读写，海量数据的读写，对扩展性要求高的数据2.Redis为什么是单线程，速度为什么快因为cpu不是redis的瓶颈，Redis的瓶颈最有可能是机器内存或者是网络带宽。既然单线程容易实现，而且cpu也不会成为瓶颈，就采用单线程。速度原因：纯内存操作；单线程操作，避免了频繁的上下文切换；采用了非阻塞I/O多路复用机制。3.缓存击穿、缓存雪崩、缓存预热、缓存更新、缓
转载
2023-08-11 10:06:49
104阅读
Redis简介Redis（全称：Remote Dictionary Server 远程字典服务）是一个开源的使用ANSI C语言编写、支持网络、可基于内存亦可持久化的日志型、Key-Value数据库，并提供多种语言的API。从2010年3月15日起，Redis的开发工作由VMware主持。从2013年5月开始，Redis的开发由Pivotal赞助。Redis 是完全开源免费的，遵守BSD协议，是一
转载
2024-01-01 10:46:00
80阅读
一、Redis简介 Redis是NoSql（非关系型数据库）中的一种，是C语言开发的一个高性能键值数据库，即通过一些键值类型来存储数据。Redis的键值类型有：String字符类型、map散列类型、list列表类型、set集合类型、sortedset有序集合类型。 Redis适用场景：秒杀库
转载
2023-12-20 23:30:22
817阅读
列族(column family)列族相当于mysql中的table；多个列族共享一个WAL文件，但有独立的memtable和sst文件；WAL是预写日志，对rocksdb的写操作，都是记录WAL，之后才会写磁盘，当数据写入磁盘后，才会删除WAL中对应的记录；列族的删除非常快，为什么？因为它是顺序写的；可以解决redis中bigkey的删除；使用rocksdb的哪些特性？主要使用rocksdb的s
转载
2023-08-09 21:28:53
1077阅读
# 大数据量Redis更新
## 引言
在现代的数据处理中，大数据量是一个常见的挑战。当我们需要更新Redis中存储的大数据量时，如何高效地进行更新是一个关键问题。本文将介绍一些在大数据量Redis更新中常用的技术和策略，并提供相应的代码示例。
## Redis简介
Redis是一个开源的内存数据结构存储系统，它支持多种数据结构（如字符串、哈希表、列表等）的存储和操作。Redis的特点是速
原创
2023-11-26 09:22:26
123阅读
# Redis 大数据量优化
## 概述
在处理大数据量时，Redis 的性能和可用性变得尤为重要。本文将介绍如何使用一些优化技巧来改善 Redis 在处理大数据量时的性能。
## 优化步骤
| 步骤 | 说明 |
| --- | --- |
| 1 | 使用适当的数据结构 |
| 2 | 分区和分片 |
| 3 | 合理设置 Redis 配置 |
| 4 | 使用持久化 |
| 5 | 使
原创
2023-07-23 09:00:39
123阅读
持久化Redis提供了2个不同形式的持久化方式。RDB（Redis DataBase）AOF（Append Of File）什么是持久化？持久化就是将有用的数据以某种技术保存起来，将来可以再次取出来应用。数据库技术，将内存数据以文件的形式保存在永久介质中（磁盘等）都是持久化的例子。为什么需要持久化？Redis对数据的操作都是基于内存的，当遇到了进程退出、服务器宕机等意外情况，如果没有持久化机制，那
转载
2024-10-06 19:18:02
134阅读
redis 5大数据类型第一部分之基础redis介绍Redis是一个开源的key-value存储系统。 支持的value类型包括string(字符串)、list(链表)、set(集合)、zset(sorted set --有序集合)和hash（哈希类型）。这些数据类型都支持push/pop、add/remove及取交集并集和差集及更丰富的操作，而且这些操作都是原子性的。 在此基础上，Redis支持
转载
2023-08-18 22:47:41
116阅读
概述Remote Dictionary Server(Redis) 是一个由 Salvatore Sanfilippo写的 key-value存储系统，是跨平台的非关系型数据库，也属于一种nosql数据库，通常被称为数据结构服务器。Redis 是一个开源的使用 ANSI C 语言编写、遵守 BSD 协议、支持网络、可基于内存、分布式、可选持久性的键值对(Key-Value)存储数据库，
转载
2023-09-26 12:24:20
119阅读
redis 查询优化原理spring 封装了redis的接口，使得我们在项目中操作redis 异常的简单方便，甚至不用考虑何时释放redis连接。通常只需要两个步骤，注入 redisTemplate选择操作的数据类型 增、删、改、查，等等应有尽有如此简单方便，redis 在项目开发中已经是不可或缺的存在。要知道redis是单线程的，每个命令都是原子性的，单个命令读写起来速度很快，但是多个redis
转载
2023-09-18 22:49:29
86阅读
不得不说的RocksDB标题看起来是比较大了，因为无论Redis还是DynamoDB都堪称是各自领域的翘楚，已经非常好了。RocksDB是使用C++编写的嵌入式kv存储引擎，其键值均允许使用二进制流。由Facebook基于levelDB开发， 提供向后兼容的levelDB API。RocksDB依靠大量灵活的配置，使之能针对不同的生产环境进行调优，包括直接使用内存，使用Flash，使用硬盘或者HD
转载
2023-09-26 12:24:46
302阅读
1.对查询进行优化，应尽量避免全表扫描，首先应考虑在 where 及 order by 涉及的列上建立索引。2.应尽量避免在 where 子句中对字段进行 null 值判断，否则将导致引擎放弃使用索引而进行全表扫描，如：select id from t where num is null可以在num上设置默认值0，确保表中num列没有null值，然后这样查询：select id from t wh
转载
2024-09-24 14:16:31
26阅读
大数据概念（2021年1月18日）对于“大数据”（Big data）研究机构Gartner给出了这样的定义。“大数据”是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力来适应海量、高增长率和多样化的信息资产。麦肯锡全球研究所给出的定义是：一种规模大到在获取、存储、管理、分析方面大大超出了传统数据库软件工具能力范围的数据集合，具有海量的数据规模、快速的数据流转、多样的数据类型和价值密度低
转载
2024-07-30 20:33:33
32阅读
有些时候我们希望减少对数据库的查询来提高程序的性能，因为这些数据不是经常变更的，而是会在很长一段时间内都不会变化，因此，我们每连接一次数据库，都会把相应的结果用文件的形式保存起来。比如对于一个商城来说，我们的商品的数量可能会经常变，但是我们的商品类型以及商品的价格这些东西都会在很长的一段时间内不会变更，如果我们需要频繁的查询它们的时候，就可以使用数据库缓存技术。缓存的原因
转载
2024-01-08 15:16:15
61阅读
