YL运维开发工程师，负责游戏系统配置管理平台的设计和开发，目前专注于新 CMDB 系统的开发，平时也关注运维自动化，DevOps，Python 开发等技术。背景CMDB 为了使用事务来存储机器的数据，启用了 mongodb4.0 版本，在平均 1.5k qps 并发写的情况下(这只是机器层面的数据，机器的里面有很多子资源的更新，每个子资源的更新会对应一个 mongodb 操作)，mongodb 一
转载
2023-08-01 12:00:13
190阅读
1、批量插入与逐条插入的性能差异实测本地MongoDB插入10万条数据，逐条插入需要40秒，批量插入仅需2.3秒。单本地批量插入数据的性能就远远超过逐条插入数据的性能。如果使用远程数据库，那么这个I/O导致的时间消耗会比这个差异许多倍。那么，我们怎么正确的批量插入数据呢？ 下面推荐两个案例：使用Redis批量插入一次性数据import redis
import json
import pymong
转载
2023-08-17 02:00:22
280阅读
对于write操作而言，首先写入journal日志，然后将数据在内存中修改（mmap），此后后台线程间歇性的将内存中变更的数据flush到底层的data files中，时间间隔为60秒（参见配置项“syncPeriodSecs”）；write操作在journal文件中是有序的，为了提升性能，write将会首先写入journal日志的内存buffer中，当buffer数据达到100M或者每隔100毫
转载
2023-08-01 20:18:57
189阅读
四个方面进行 cpu/io 方面的优化处理： 1.集群架构上进行读写分离。所有查询优先考虑在从库上读取，写操作在主库上执行。避免主库混合读写压力过大，也减少主库上读写记录的锁冲突。connection string中readPreference 设置成secondarypreferred，C++ 驱动版本升级为3.1.3 mongo-cxx-driver（驱动升级，读写分离才生效） 。2.热表m
转载
2023-08-20 13:58:16
299阅读
Spring.xml配置文件中
<mongo:options
connections-per-host="8"
threads-allowed-to-block-for-connection-multiplier="4"
connect-timeout="1000"
max-wait-time="1500"
auto
转载
2023-06-18 11:47:49
210阅读
# MongoDB 写入教程
在这篇文章中，我们将介绍如何在 MongoDB 中进行数据写入操作。对于刚入行的小白开发者来说，整个流程可能会显得有些复杂，但只要理解每一步的作用和相应的代码，就能够轻松上手。
## 整体流程
下面是MongoDB写入数据的基本步骤：
| 步骤 | 描述
需要批量操作时候，节省网络连接交互次数，可以使用 bulk_write。方法一：批量插入insert_manyarr = [] # 初始化一个空列表
for line in mmap_lines(file_path):
arr.append(DbPushPortraitObject(uid=uid, hash_key=hash_key, tag_ids=tag_ids, dt=dt))
转载
2023-06-09 11:05:25
360阅读
# TDengine 高效写入 Java
## 介绍
TDengine是一个高性能、高可靠性的大数据存储和分析引擎，它支持高速写入和查询。对于需要在Java应用程序中进行大数据写入的开发者来说，使用TDengine可以提高写入效率和数据存储的可靠性。
本文将介绍如何在Java中使用TDengine进行高效的数据写入，并提供相应的代码示例。
## 准备工作
在开始之前，我们需要做一些准备工
原创
2024-01-10 05:47:57
326阅读
Python学习教程：手把手教你搭建自己的量化分析数据库引言：数据是金融量化分析的重要基础，包括股票历史交易数据、上市公司基本面数据、宏观和行业数据等。随着信息流量的日益膨胀，学会获取、查询和加工数据信息变得越来越重要。对于鼓捣量化交易的人来说，怎么能说不会玩数据库呢？目前常用的开源(免费)数据库有MySQL、Postgresql 、Mongodb 和 SQLite (Python自带)，在201
File类File类的使用
1.File类的一个对象，代表一个文件或一个目录（文件夹）2.File类声明在java.io下3.File类中涉及到关于文件或文件目录的创建、删除、重命名、修改时间、文件大小等方法。并未涉及到写入或读取文件内容的操作，如果需要读取或写入文件内容，必须使用IO流4.后续File类的对象常会作为参数传递到流的构造器中，指明读取或写入的终点1.如何创建File类的实例
转载
2024-10-10 10:35:37
19阅读
mongodb想速成吗，这个系列教程你可以看看（2）1、mongodb简介MongoDB 是由C++语言编写的，是一个基于分布式文件存储的开源数据库系统。在高负载的情况下，添加更多的节点，可以保证服务器性能。MongoDB 旨在为WEB应用提供可扩展的高性能数据存储解决方案。MongoDB 将数据存储为一个文档，数据结构由键值(key=>value)对组成。MongoDB 文档类似于 JSO
转载
2024-07-02 20:33:17
41阅读
MongoDB Write Concern，简称MongoDB写入安全机制，是一种客户端设置，用于控制写入安全的级别。Write Concern 描述了MongoDB写入到mongod单实例，副本集，以及分片集群时何时应答给客户端。默认情况下，mongoDB文档增删改都会一直等待数据库响应(确认写入是否成功)，然后才会继续执行。本文讲述了MongoDB 应答机制及相关参数。一、MongoDB应答机
转载
2024-02-23 11:17:04
61阅读
mongodb 版本3.4 所以有些pymongo的api是老的：代码如下：代码来自：://github/zshameel/MySQL2MongoDB1，代码不支持多线程，修改代码支持了多线程。2，代码是高版本pymongo，如果使用mongodb3.4，已改成低版本的API。3，代码不支持流式传输，下面有流式传输的版本。
import sys
转载
2024-04-24 17:12:18
39阅读
在进行MongoDB大数据量写入的情况下，Mongo同步出现过很多问题。简单记录一下：同步数据过慢：可参考https://yq.aliyun.com/articles/47336同步数据异常导致占用连接池资源：sharded connection to xxx not being returned to the pool SHARDING [conn32380] could not autospl
转载
2023-07-05 10:58:14
537阅读
翻译自 MongoDB 官方博客：6 Rules of Thumb for MongoDB Schema Design: Part 16 Rules of Thumb for MongoDB Schema Design: Part 26 Rules of Thumb for MongoDB Schema Design: Part 3时间仓促，水平有限，难免有遗漏和不足，还请不吝指正。“我有很多 S
转载
2024-02-24 11:41:34
59阅读
物联网应用常常需要收集大量的数据，用以支持智能控制、业务分析和设备监控等功能。然而，应用逻辑的更时序数据库（Time Series Database，...
原创
2024-07-01 11:17:35
263阅读
内容框架：背景介绍功能介绍如何配置如何使用背景介绍Apache Flink 简介Apache Flink 是新一代大数据计算引擎的代表，以分布式流计算为核心，同时支持批处理。特点：低延时：Flink 流式计算可以做到亚秒甚至毫秒级延时，相比之下 Spark 流计算很难达到秒级高吞吐：Flink 以分布式快照算法实现容错，对吞吐量的影响很小高容错：基于分布式快照算法，Flink 实现了低代价、高效的
原创
精选
2021-11-09 17:23:41
3306阅读
## MongoDB写入速度
MongoDB是一个流行的非关系型数据库，它具有高性能和可伸缩性。在大多数情况下，MongoDB的写入速度非常快，但并不是所有写入操作都是一样的。本文将介绍MongoDB的写入速度，并提供一些代码示例来演示如何优化写入性能。
### 写入操作的类型
在MongoDB中，有多种写入操作类型可供选择，每一种类型都有不同的性能特点。以下是一些常见的写入操作类型：
1
原创
2023-09-30 07:36:09
129阅读
# Spring写入MongoDB
MongoDB是一个开源的文档数据库，广泛应用于现代应用程序的数据存储和访问。Spring是一个流行的开发框架，提供了许多便利的功能，用于构建企业级Java应用程序。在本文中，我们将探讨如何使用Spring来写入MongoDB，并提供相关的代码示例。
## 准备工作
在开始编写代码之前，我们需要进行一些准备工作。首先，我们需要安装MongoDB数据库，并启
原创
2023-11-28 03:57:44
44阅读
实现“mongodb 写入tps”的步骤如下：
步骤 | 操作
------------- | -------------
1 | 连接 MongoDB 数据库
2 | 创建一个用于写入的集合
3 | 循环插入数据
4 | 关闭连接
下面是对每个步骤的详细说明：
### 1. 连接 MongoDB 数据库
首先，你需要使用特定的语言和库来连接 MongoDB 数据库。以 Node
原创
2023-12-24 03:40:23
104阅读
