YL运维开发工程师，负责游戏系统配置管理平台的设计和开发，目前专注于新 CMDB 系统的开发，平时也关注运维自动化，DevOps，Python 开发等技术。背景CMDB 为了使用事务来存储机器的数据，启用了 mongodb4.0 版本，在平均 1.5k qps 并发写的情况下(这只是机器层面的数据，机器的里面有很多子资源的更新，每个子资源的更新会对应一个 mongodb 操作)，mongodb 一
转载
2023-08-01 12:00:13
190阅读
对于write操作而言，首先写入journal日志，然后将数据在内存中修改（mmap），此后后台线程间歇性的将内存中变更的数据flush到底层的data files中，时间间隔为60秒（参见配置项“syncPeriodSecs”）；write操作在journal文件中是有序的，为了提升性能，write将会首先写入journal日志的内存buffer中，当buffer数据达到100M或者每隔100毫
转载
2023-08-01 20:18:57
189阅读
1、批量插入与逐条插入的性能差异实测本地MongoDB插入10万条数据，逐条插入需要40秒，批量插入仅需2.3秒。单本地批量插入数据的性能就远远超过逐条插入数据的性能。如果使用远程数据库，那么这个I/O导致的时间消耗会比这个差异许多倍。那么，我们怎么正确的批量插入数据呢？ 下面推荐两个案例：使用Redis批量插入一次性数据import redis
import json
import pymong
转载
2023-08-17 02:00:22
280阅读
四个方面进行 cpu/io 方面的优化处理： 1.集群架构上进行读写分离。所有查询优先考虑在从库上读取，写操作在主库上执行。避免主库混合读写压力过大，也减少主库上读写记录的锁冲突。connection string中readPreference 设置成secondarypreferred，C++ 驱动版本升级为3.1.3 mongo-cxx-driver（驱动升级，读写分离才生效） 。2.热表m
转载
2023-08-20 13:58:16
299阅读
Spring.xml配置文件中
<mongo:options
connections-per-host="8"
threads-allowed-to-block-for-connection-multiplier="4"
connect-timeout="1000"
max-wait-time="1500"
auto
转载
2023-06-18 11:47:49
210阅读
# MongoDB 写入教程
在这篇文章中，我们将介绍如何在 MongoDB 中进行数据写入操作。对于刚入行的小白开发者来说，整个流程可能会显得有些复杂，但只要理解每一步的作用和相应的代码，就能够轻松上手。
## 整体流程
下面是MongoDB写入数据的基本步骤：
| 步骤 | 描述
需要批量操作时候，节省网络连接交互次数，可以使用 bulk_write。方法一：批量插入insert_manyarr = [] # 初始化一个空列表
for line in mmap_lines(file_path):
arr.append(DbPushPortraitObject(uid=uid, hash_key=hash_key, tag_ids=tag_ids, dt=dt))
转载
2023-06-09 11:05:25
360阅读
mongodb想速成吗，这个系列教程你可以看看（2）1、mongodb简介MongoDB 是由C++语言编写的，是一个基于分布式文件存储的开源数据库系统。在高负载的情况下，添加更多的节点，可以保证服务器性能。MongoDB 旨在为WEB应用提供可扩展的高性能数据存储解决方案。MongoDB 将数据存储为一个文档，数据结构由键值(key=>value)对组成。MongoDB 文档类似于 JSO
转载
2024-07-02 20:33:17
41阅读
MongoDB Write Concern，简称MongoDB写入安全机制，是一种客户端设置，用于控制写入安全的级别。Write Concern 描述了MongoDB写入到mongod单实例，副本集，以及分片集群时何时应答给客户端。默认情况下，mongoDB文档增删改都会一直等待数据库响应(确认写入是否成功)，然后才会继续执行。本文讲述了MongoDB 应答机制及相关参数。一、MongoDB应答机
转载
2024-02-23 11:17:04
61阅读
在进行MongoDB大数据量写入的情况下，Mongo同步出现过很多问题。简单记录一下：同步数据过慢：可参考https://yq.aliyun.com/articles/47336同步数据异常导致占用连接池资源：sharded connection to xxx not being returned to the pool SHARDING [conn32380] could not autospl
转载
2023-07-05 10:58:14
537阅读
mongodb 版本3.4 所以有些pymongo的api是老的：代码如下：代码来自：://github/zshameel/MySQL2MongoDB1，代码不支持多线程，修改代码支持了多线程。2，代码是高版本pymongo，如果使用mongodb3.4，已改成低版本的API。3，代码不支持流式传输，下面有流式传输的版本。
import sys
转载
2024-04-24 17:12:18
39阅读
翻译自 MongoDB 官方博客：6 Rules of Thumb for MongoDB Schema Design: Part 16 Rules of Thumb for MongoDB Schema Design: Part 26 Rules of Thumb for MongoDB Schema Design: Part 3时间仓促，水平有限，难免有遗漏和不足，还请不吝指正。“我有很多 S
转载
2024-02-24 11:41:34
59阅读
## MongoDB写入速度
MongoDB是一个流行的非关系型数据库，它具有高性能和可伸缩性。在大多数情况下，MongoDB的写入速度非常快，但并不是所有写入操作都是一样的。本文将介绍MongoDB的写入速度，并提供一些代码示例来演示如何优化写入性能。
### 写入操作的类型
在MongoDB中，有多种写入操作类型可供选择，每一种类型都有不同的性能特点。以下是一些常见的写入操作类型：
1
原创
2023-09-30 07:36:09
129阅读
# Spring写入MongoDB
MongoDB是一个开源的文档数据库，广泛应用于现代应用程序的数据存储和访问。Spring是一个流行的开发框架，提供了许多便利的功能，用于构建企业级Java应用程序。在本文中，我们将探讨如何使用Spring来写入MongoDB，并提供相关的代码示例。
## 准备工作
在开始编写代码之前，我们需要进行一些准备工作。首先，我们需要安装MongoDB数据库，并启
原创
2023-11-28 03:57:44
44阅读
实现Flink写入MongoDB的流程如下：
| 步骤 | 描述 |
|------|------|
| 步骤一 | 引入Flink和MongoDB相关的依赖 |
| 步骤二 | 初始化Flink的执行环境 |
| 步骤三 | 定义数据源 |
| 步骤四 | 创建MongoDB的连接配置 |
| 步骤五 | 将数据写入MongoDB |
下面是每一步需要做的具体操作：
1. 步骤一：引入Fl
原创
2024-01-13 07:02:54
139阅读
实现“mongodb 写入tps”的步骤如下：
步骤 | 操作
------------- | -------------
1 | 连接 MongoDB 数据库
2 | 创建一个用于写入的集合
3 | 循环插入数据
4 | 关闭连接
下面是对每个步骤的详细说明：
### 1. 连接 MongoDB 数据库
首先，你需要使用特定的语言和库来连接 MongoDB 数据库。以 Node
原创
2023-12-24 03:40:23
104阅读
# MongoDB 异步写入
在实际的应用中，我们经常会遇到需要将数据异步写入 MongoDB 数据库的情况。异步写入能够提高系统的性能和吞吐量，减少用户等待时间，以及提高系统的稳定性。
## MongoDB 异步写入原理
MongoDB 通过将写入操作添加到一个队列中，然后由后台线程来处理这些写入操作，从而实现异步写入。这种方式可以确保写入操作不会阻塞主线程，提高系统的响应速度。
##
原创
2024-04-18 05:30:25
75阅读
# MongoDB 数据写入
在MongoDB中，数据写入是非常重要的一个操作，也是使用MongoDB的基本功能之一。在这篇文章中，我们将介绍如何向MongoDB数据库中写入数据，并提供一些代码示例来帮助您更好地理解这个过程。
## MongoDB 数据写入流程
为了更好地理解MongoDB数据写入的流程，我们可以使用流程图来展示整个过程。下面是一个简单的MongoDB数据写入流程图：
`
原创
2024-07-04 05:00:03
108阅读
# 实现mongodb安全写入的步骤
## 1. 整体流程
下面是实现mongodb安全写入的整体流程：
```mermaid
stateDiagram
[*] --> 开始
开始 --> 连接数据库
连接数据库 --> 验证权限
验证权限 --> 写入数据
写入数据 --> 结束
结束 --> [*]
```
## 2. 每一步具体操作及代
原创
2024-03-18 05:01:21
112阅读
# 实现 MongoDB 并行写入的步骤
## 概述
在 MongoDB 数据库中，如果我们需要并行写入数据，可以通过以下步骤实现。首先，需要确保 MongoDB 集群已经搭建完成，并且已经配置好了分片和副本集。然后，使用 MongoDB 的官方驱动程序或者其他支持 MongoDB 的第三方库，编写并发写入代码。
下面是 MongoDB 并行写入的具体步骤：
| 步骤 | 描述 |
|---
原创
2024-01-09 12:00:43
54阅读
