2017年在省公司做一个项目，涉及到一个亿级别的大表操作，过程中遇到了很多坑，走过后记录如下，方便今后回忆。Oracle数据库是一种事务性数据库，对删除、修改、新增操作会产生undo和redo两种日志，当一次提交的数据量过大时，数据库会产生大量的日志写文件IO操作，导致数据库操作性能下降，尤其是对一张记录过亿的表格进行操作时需要注意以下事项： 1、操作大表必须知道表有多大select s
转载
2024-01-02 16:35:16
129阅读
本文介绍BigTable/HBase类NoSQL数据库系统选型策略和schema设计原则。 数据规模 BigTable类数据库系统(HBase,Cassandra等)是为了解决海量数据规模的存储需要设计的。这里说的海量数据规模指的是单个表存储的数据量是在TB或者PB规模，单个表是由千亿行*千亿列这样的规模组成的。提到这个数据规模的问题，不得不说的就是现在在NoSQL市场中，最火的四种NoSQL
转载
2023-12-01 19:35:58
201阅读
作者 | 王一鹏无论多么有主见的架构师，在做数据库选型的时候，也可能会犯难。传统 SOL、NoSQL 还是 NewSQL？架构风格是以久经考验的关系型数据库为主，还是偏向所谓原生的分布式架构？如果提及具体产品，那选择就更多了，TiDB、OceanBase、PolarDB、TDSQL、GaussDB、MongoDB…… 现在还有许多服务于新场景的产品，比如处理时序数据的 ，处理图数
转载
2023-12-26 23:15:36
84阅读
最近在忙着优化集团公司的一个报表。优化完成后，报表查询速度有从半小时以上(甚至查不出)到秒查的质变。从修改SQL查询语句逻辑到决定创建存储过程实现，花了我3天多的时间，在此总结一下，希望对朋友们有帮助。数据背景首先项目是西门子中国在我司实施部署的MES项目，由于项目是在产线上运作(3 years+)，数据累积很大。在项目的数据库中，大概上亿条数据的表有5个以上，千万级数据的表10个以上
转载
2024-03-22 15:59:50
33阅读
项目背景这是给某数据中心做的一个项目，项目难度之大令人发指，这个项目真正的让我感觉到了，商场如战场，而我只是其中的一个小兵，太多的战术，太多的高层之间的较量，太多的内幕了。具体这个项目的情况，我有空再写相关的博文出来。这个项目是要求做环境监控，我们暂且把受监控的设备称为采集设备，采集设备的属性称为监控指标。项目要求：系统支持不少于10w个监控指标，每个监控指标的数据更新不大于20秒，存储延迟不超过
转载
2024-07-08 15:58:21
48阅读
# MySQL数据库查询亿级数据
在大数据时代，数据量的增长迅速，处理大规模数据的能力变得至关重要。MySQL作为一种常见的关系型数据库管理系统，如何高效地查询亿级数据成为了一个挑战。本文将介绍在MySQL中查询亿级数据的方法，并提供一些代码示例。
## 数据库设计
在处理亿级数据之前，首先需要进行合理的数据库设计。以下是一个简单的数据库类图示例，展示了一个包含用户信息的数据表。
```m
原创
2023-10-30 07:08:23
93阅读
浅谈时序数据库TDengine最近TDengine很火，本人也一直很早就有关注，其官方给出的测试性能结果很喜人，所以一开源，本人就进行了相关调研，最终发现还是存在着一定的问题，期待后续的完善吧写入问题必须为每个Tag组合起一个表名付出的代价：用户必须要保证每个Tag组合起的表名唯一，并且一旦Tag组合数过多用户很难记住每个Tag组合对应的表名，在查询时基本都是靠超级表STable来查
前文提到时序数据是一个写多读少的场景，对时序数据库以及数据存储方面做了论述，数据查询和聚合运算同样是时序数据库必不可少的功能之一。如何支持在秒级对上亿数据的查询分组聚合运算成为了时序数据库产品必须要面对的挑战。 本文会从时序数据库的查询以及聚合运算角度展开，最后会从如何解决时序数据的查询问题入手深入分析。 1. 时序数据的查询 原始数据的查询和时序数据聚合运算的查询。 前
转载
2024-03-25 20:38:43
122阅读
01前段时间，在网上看到一道面试题：如何用redis存储统计1亿用户一年的登陆情况，并快速检索任意时间窗口内的活跃用户数量。觉得很有意思，就仔细想了下 。并做了一系列实验，自己模拟了下 。还是有点收获的，现整理下来。和大家一起分享。Redis是一个内存数据库，采用单线程和事件驱动的机制来处理网络请求。实际生产的QPS和TPS单台都能达到3,4W，读写性能非常棒。用来存储一些对核心业务弱影响的用户状
转载
2023-06-13 11:59:11
274阅读
一）数据库设计方面 1）首先避免全局扫瞄，在where和order by等涉及的列上建立索引。2）尽量避免的where子句中对null进行判断，因为对null值进行判断将导致引擎放弃使用索引，而进行全表的扫描。例如：select id form table where num=null;将num的默认值设置成，这样数据库就会按照索引机制进行查询。 &nb
转载
2023-09-28 22:25:52
644阅读
阿里机器智能 小叽导读：优酷视频内容数据天然呈现巨大的网络结构，各类数据实体连接形成了数十亿顶点和百亿条边的数据量，面对巨大的数据量，传统关系型数据库往往难以处理和管理，图数据结构更加贴合优酷的业务场景，图组织使用包括顶点和边及丰富属性图来展现，随着年轻化互动数据和内容数据结合，在更新场景形成单类型顶点达到日更新上亿的消息量。本文将分享阿里文娱开发专家遨翔、玄甫在视频内容实时更新上的实
转载
2024-08-27 15:25:43
69阅读
亿级数据的统计系统架构 公司的统计系统经历了两次比较大的架构变动:1.数据直接入库的实时分析->2.数据写入日志文件再归并入库的非实时分析（及时性：天）->3.数据写入日志文件归并入库，建立不同维度的缓存表, 结合数据仓库（及时性：小时）当前的系统状况： 数据源：Goolge Analytics / WebServer Log数据库记录:5亿+单表最大记录：1.2亿+服务器数量：三台
转载
2023-11-14 19:39:19
373阅读
搜索是软件工程师的一项必备技能。而 Elasticsearch 就是一款功能强大的开源分布式搜索与分析引擎，在同领域几乎没有竞争对手——近三年 DB-Engines 数据库评测中，ES 在搜索引擎领域始终位列第一。 此外，Elasticsearch 还被广泛运用于大数据近实时分析，包括日志分析、指标监控、信息安全等多个领域。作为目前最流行的开源搜索引擎，Elasticsearch 的全球
转载
2024-05-07 10:56:24
46阅读
本文是从真实项目操作的记录，由于数据量太大，个人能力有限，如果文中写的不对的地方，还请DBA大牛指正（本人只是迷途中的小程序猿），这篇文章主要是记录一个问题的解决办法。项目背景这个项目是要求做环境监控，我们暂且把受监控的设备称为采集设备，采集设备的属性称为监控指标。项目要求：系统支持不少于10w个监控指标，每个监控指标的数据更新不大于20秒，存储延迟不超过120秒。那么，我们可以通过简单的计算得出
转载
2024-05-17 14:58:32
153阅读
亿级数据处理是一个复杂的任务，需要经验丰富的开发者来完成。在本文中，我将向一位刚入行的小白介绍如何使用Python来处理亿级数据。我将按照以下步骤进行说明：
1. 数据准备
2. 数据读取
3. 数据清洗
4. 数据分析
5. 数据存储
下面是整个流程的表格展示：
| 步骤 | 描述 |
| -------- |
原创
2024-01-17 12:31:49
128阅读
上一篇Mysql数据库快速插入亿级数据，介绍了如何造亿级数据。OK，现在数据有了，怎么分区？常见的思路有两个： ①使用ALTER TABLE创建分区； ②先创建一张与原来一样的新表，对新的空表分区，然后将原表数据备份到新表，然后删除原表，将新表改名为原表名。 下面就来实践这两种思路。原表sql：CREATE TABLE `t_send_message_send` (
`id` bigint(2
转载
2023-08-10 13:58:04
349阅读
通用技术 mysql 亿级数据优化一定要正确设计索引一定要避免SQL语句全表扫描，所以SQL一定要走索引（如：一切的 > < != 等等之类的写法都会导致全表扫描）一定要避免 limit 10000000,20 这样的查询一定要避免 LEFT JOIN 之类的查询，不把这样的逻辑处理交给数据库每个表索引不要建太多，大数据时会增加数据库的写入压力应尽量避免在 where 子句中使用!=或
转载
2024-06-21 10:32:55
40阅读
1、背景当需要造千万级数据时，去写sql，用 jmeter跑并发，过程有点繁琐，能不能用一款工具，一次性解决这些需求，并检测磁盘性能。2、原理先往一个临时表PRODUCTS_TEST写入一定量的数据，然后写个存储过程从临时表取数写进目标表PRODUCTS，然后通过多线程执行存储过程。建主表语句create table sysdba.products(
product_no varchar(50)
导读：OPPO是一家智能终端制造公司，有着数亿的终端用户，手机 、IoT设备产生的数据源源不断，设备的智能化服务需要我们对这些数据做更深层次的挖掘。海量的数据如何低成本存储、高效利用是大数据部门必须要解决的问题。目前业界流行的解决方案是数据湖，本次Xiaochun He老师介绍的OPPO自研数据湖存储系统CBFS在很大程度上可解决目前的痛点。本文将从以下几点为大家展开介绍：简述数据湖存储技术OPP
转载
2024-04-12 11:42:48
133阅读
1 概述 组合查询为多条件组合查询，在很多场景下都有使用。购物网站中通过勾选类别、价格、销售量范围等属性来对所有的商品进行筛选，筛选出满足客户需要的商品，这是一种典型的组合查询。在小数据量的情况下，后台通过简单的sql语句便能够快速过滤出需要的数据，但随着数据量的增加，继续使用sql语句，查询效率会直线下降。当数据量达到一定的量级，服务器将会不堪重负甚至面临挂掉的危险，并且大数据量的存储也成为了一
转载
2024-04-19 19:13:35
143阅读
